Wenn das Modell falsch liegt und das Licht ausgeht

# Wenn das Modell falsch liegt und das Licht ausgeht

Im Februar 2021 war Texas nur Minuten von einem vollständigen Netzausfall entfernt. ERCOT (Electric Reliability Council of Texas, der Netzbetreiber für den größten Teil des Bundesstaates) hatte Last- und Erzeugungsprognosen, die massiv unterschätzten, wie viel Kapazität während des Wintersturms Uri einfrieren und ausfallen würde. Das Ergebnis: rollierende Stromabschaltungen für Millionen Menschen, nach offizieller Zählung über 200 Todesfälle und Schäden in zweistelliger Milliardenhöhe. Kein einzelnes KI-Modell hat Uri verursacht. Aber der Vorfall ist die klarste verfügbare Illustration dafür, was passiert, wenn ein Prognosefehler auf ein physisches System ohne Undo-Button trifft. Genau darum geht es in dieser Lektion: was passiert, wenn ein Lastprognose- oder Ausfallvorhersagemodell danebenliegt, und wie Sie das Risiko vorher klassifizieren statt hinterher.

Die Kaskade, Schritt für Schritt

Moderne Netzbetreiber setzen bei drei zentralen Prognoseaufgaben auf machine learning: kurzfristige Lastprognose (Bedarf Stunden bis Tage im Voraus), Prognose der erneuerbaren Erzeugung (Wind- und Solarleistung) sowie Ausfall- oder Fehlervorhersage (welche Leitungen oder Transformatoren wahrscheinlich ausfallen).

Hier eine plausible Fehlerkette, abgeleitet aus realen Vorfallskategorien:

1. Ein Lastprognosemodell, überwiegend mit Daten aus milden Wintern trainiert, unterschätzt die Spitzenlast während einer extremen KKDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →ältewelle.

2. Die Netzbetreiber halten weniger Reserveerzeugung vor als tatsächlich nötig, weil das Modell einen moderaten Bedarf ausweist.

3. Der Bedarf schießt über die Prognose hinaus. Die Reserven sind dünn.

4. Die Betreiber müssen Last abschalten (bewusste Stromabschaltungen), um das Netz vor einem kaskadierenden Ausfall zu bewahren, bei dem das Ungleichgewicht Schutzrelais über ein weites Gebiet auslöst, ein Fehlermodus, der 2003 den Blackout im Nordosten der USA mit 50 Millionen Betroffenen erzeugte.

5. Krankenhäuser, Wasserpumpstationen und Gasverdichterstationen (die Strom brauchen, damit Gas weiter zu den Kraftwerken fließt) verlieren Strom und verschärfen die Krise.

Der Modellfehler in Schritt 1 sieht klein aus: eine Prognose, die um 10 bis 15 % abweicht. Die Konsequenz in Schritt 5 ist alles andere als klein. Diese Lücke zwischen der Größe des Eingangsfehlers und der Größe der Folgewirkung ist der ganze Punkt dieser Lektion.

KI-Risiko klassifizieren: blast radius und Reversibilität

Leihen Sie sich zwei Dimensionen aus der Sicherheitstechnik, nicht aus generischen KI-Ethik-Listen, weil sie direkt auf die Netzphysik abbilden.

Blast radius: wie viele Menschen, Anlagen oder Systeme betroffen sind, wenn das Modell falsch liegt.

• Eng: der Wartungsplan eines einzelnen Umspannwerks.
• Weit: regionale Dispatch-Entscheidungen, die Millionen Kunden betreffen.

Reversibilität: wie leicht sich die Folge rückgängig machen lässt, wenn sie eingetreten ist.

• Reversibel: ein falsch bepreistes Demand-Response-Signal, das nur Geld kostet und im nächsten Zyklus korrigiert wird.
• Irreversibel oder nur langsam umkehrbar: ein Blackout mit kaskadierenden Anlagenschäden oder ein Sicherheitsvorfall in einem Umspannwerk.

Tragen Sie jeden Energie-KI-Use-Case in dieses 2x2 ein, und Sie erhalten eine praktikable Governance-Regel: je größer der blast radius und je geringer die Reversibilität, desto mehr menschliche Aufsicht und Tests vor dem Deployment sind erforderlich, unabhängig davon, wie gut die Accuracy-Kennzahlen des Modells im Labor aussehen.

| Use Case | Blast radius | Reversibilität | Erforderliche Aufsicht |

|---|---|---|---|

| Predictive-Maintenance-Planung für einen Transformator | Eng | Hoch | Standard-Monitoring |

| Day-ahead-Lastprognose als Basis für Marktgebote | Weit | Mittel (teuer, korrigierbar) | Starke Validierung, menschliche Freigabe |

| Echtzeit-Dispatch / automatischer Lastabwurf | Weit | Niedrig | Human-in-the-loop verpflichtend, umfangreiche Stresstests |

| KI-gesteuerte Einstellungen von Schutzrelais | Weit | Sehr niedrig (kann Anlagen beschädigen, Verletzungen verursachen) | Als sicherheitskritisch behandeln, nicht als „KI-Feature“ |

Das ist dieselbe Logik, die hinter den Risikokategorien des EU AI Act steht (die risikobasierte KI-Regulierung der Europäischen Union, seit 2024 in Kraft mit gestuften Pflichten bis 2027). Das Management von Energieinfrastruktur wird ausdrücklich als Bereich genannt, der eine Einstufung als „hochriskant“ auslösen kann, mit Konformitätsbewertungen, menschlicher Aufsicht und dokumentiertem Risikomanagement vor dem Deployment. Den Quelltext finden Sie in der Übersicht der Europäischen Kommission zum risikobasierten Ansatz des AI Act.

Was US- und EU-Regeln tatsächlich sagen

Gehen Sie nicht davon aus, dass es ein einziges Gesetz zu „KI in der Energiewirtschaft“ gibt. Das gibt es, Stand 2026, in keiner der beiden Jurisdiktionen. Stattdessen:

USA: NERC (North American Electric Reliability Corporation, das Gremium, das verbindliche Zuverlässigkeitsstandards für das Übertragungsnetz setzt) hat noch keinen KI-spezifischen Standard. Die bestehenden CIP-Standards (Critical Infrastructure Protection) regeln Cybersicherheit und operatives Risiko allgemein, und NERC hat Leitlinien veröffentlicht, die KI-gestützte Werkzeuge im Netzbetrieb derselben Zuverlässigkeits- und Change-Management-Prüfung unterwerfen wie jede andere operative Software. FERC (Federal Energy Regulatory Commission) hat angesichts des Nachfrageschubs durch Rechenzentren Untersuchungen zur Rolle von KI in Netzplanung und Lastprognose eingeleitet, verbindliche KI-spezifische Regeln entstehen aber erst.

Europäische Union: der AI Act ist das verbindliche Instrument. Systeme zum Management von Energienetzen fallen unter die Hochrisikokategorien von Anhang III, wenn sie die Sicherheit kritischer Infrastruktur betreffen. Damit greifen Anforderungen an Risikomanagementsysteme, technische Dokumentation, menschliche Aufsicht und Post-Market-Monitoring, Pflichten, die von 2026 bis 2027 gestuft in Kraft treten.

Praktische Konsequenz für Führungskräfte: die Regulierung läuft dem Deployment hinterher. Das heißt, interne Governance (die Checks im nächsten Abschnitt) senkt das Risiko derzeit real stärker als externes Recht, besonders in den USA.

Guardrails vor dem Deployment

Eine konkrete Checkliste vor dem Deployment, kalibriert nach blast radius:

• Backtesting gegen Extremereignisse, nicht gegen Durchschnittstage. Ein Lastprognosemodell mit 97 % Accuracy an typischen Tagen sagt nichts über sein Verhalten während eines Polarwirbels oder einer Hitzekuppel. Verlangen Sie explizite Stresstest-Szenarien auf Basis historischer Extremwetterdaten.
• Human-in-the-loop für alles, was Dispatch oder Lastabwurf berührt. Keine vollständig autonome Aktion bei Entscheidungen mit weitem blast radius und geringer Reversibilität. Das Modell empfiehlt, ein zugelassener Operator bestätigt.
• Monitoring von model drift. Netzbedingungen ändern sich (mehr dezentrale Photovoltaik, mehr EV-Ladelast) schneller als jährliche Retraining-Zyklen. Richten Sie automatisierte Alerts ein, wenn die Live-Fehlerquoten die im Backtest ermittelten Schwellen überschreiten.
• Rückfallverfahren, wenn das Modell nicht verfügbar oder offensichtlich falsch ist. ERCOT und andere Betreiber halten manuelle, nicht KI-gestützte Verfahren genau deshalb vor, weil Software ausfallen kann; das Guardrail ist ein validiertes und geübtes Rückfallverfahren, kein angenommenes.
• Unabhängige Modellvalidierung, getrennt von dem Team, das es gebaut hat, analog zum Konzept der „zweiten Verteidigungslinie“ im Model Risk Management der Banken, hier übertragen auf physische Infrastruktur statt auf finanzielle Exponierung.

Ein einfaches Monitoring-Snippet, die Art Code, die ein Analyst im Ops-Umfeld lesen kkDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →önnen sollte, auch wenn ererDas Verhältnis von Interaktionen (Likes, Kommentare, Shares) zur Reichweite eines Inhalts. Zeigt, wie stark die Zielgruppe reagiert, gemessen an der Zahl der Personen, die den Inhalt gesehen haben.Vollständige Definition ansehen → ihn nicht geschrieben hat:

# Flag when live forecast error exceeds backtested tolerance
forecast_error = abs(actual_load - predicted_load) / actual_load

if forecast_error > 0.08:  # 8% threshold, calibrated from historical extremes
    trigger_alert("Load forecast deviation exceeds safe threshold")
    escalate_to_human_operator()

Der Schwellenwert (hier 8 %, illustrativ) sollte aus Ihrem eigenen Backtesting kommen, nicht aus einem Vendor-Default.

Wer trägt die Verantwortung, wenn es schiefgeht

Governance funktioniert nur, wenn Verantwortlichkeit vorab benannt ist und nicht nachträglich ausgestritten wird.

Versorger, die KI-Prognosetools von Dritten einsetzen (verbreitet: Enel, EDF und US-Versorger wie Duke Energy und Southern Company nutzen alle externe oder hybride Vendor-Modelle für Last- und Erneuerbaren-Prognosen), tragen weiterhin die operative Verantwortung für die Zuverlässigkeit, in den USA nach NERC-Standards, in der EU nach den Vorgaben der nationalen Regulierer. Vendor-Verträge sollten Pflichten zur Modellvalidierung festschreiben, aber die Zuverlässigkeitspflicht geht nicht vom Versorger weg, nur weil das Modell von einem Dritten kam.

Das ist der wichtigste Governance-Satz dieser Lektion: Sie können die Verantwortung für eine Entscheidung nicht auslagern, nur weil Sie das Modell ausgelagert haben, das sie informiert hat.

Key Takeaways

• Klassifizieren Sie jeden Energie-KI-Use-Case vor dem Deployment auf zwei Achsen: blast radius (wie viele betroffen sind) und Reversibilität (wie schwer umkehrbar). Hoher blast radius plus geringe Reversibilität bedeutet verpflichtende menschliche Aufsicht, nicht nur gute Modell-Accuracy.
• Prognosemodelle, die auf Durchschnittsbedingungen trainiert sind, kkDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →önnen genau dann versagen, wenn es am meisten zählt: Extremwetter, Nachfragespitzen, Anlagenbelastung. Backtesten Sie gegen Extreme, nicht gegen Durchschnitte.
• Die Regulierung holt auf, ist aber unvollständig: der EU AI Act behandelt kritische Netzinfrastruktur als hochriskant mit verbindlichen Pflichten; die KI-spezifische Aufsicht durch NERC/FERC in den USA entwickelt sich noch. Interne Governance wiegt derzeit schwerer als externes Recht.
• Die Verantwortung für Zuverlässigkeit bleibt beim Versorger oder Betreiber, auch wenn das Modell von einem Vendor stammt. Verträge sollten das abbilden, nicht verschleiern.
• Bauen und üben Sie nicht KI-gestützte Rückfallverfahren für jedes KI-getriebene operative Werkzeug. Ein Modell, von dem Sie nicht sicher zurückfallen kkDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →önnen, ist ein Modell, dessen Risiko Sie nicht ordentlich reduziert haben.