Wenn die KI sich sicher ist und das Netz ausfällt

Im Zentrum dieses Artikels steht KI-Halluzination in Entscheidungsumgebungen mit hohen Konsequenzen, und das eigentliche Missverständnis lautet: Die meisten Führungskräfte im Energiesektor verstehen Halluzination als Problem der Textqualität, als etwas, das KI-Ausgaben seltsam klingen lässt oder eine falsche Quellenangabe enthält. Diese Einordnung greift zu kurz, und im Netzbetrieb ist sie schlicht der falsche Rahmen.

Halluzination in einem Sprachmodell ist kein Fehler, der gelegentlich unter ungewöhnlichen Bedingungen auftritt. Sie ist eine strukturelle Eigenschaft davon, wie diese Modelle Ausgaben erzeugen. Sie sagen plausible nächste TokensTokensEin Token ist die grundlegende Texteinheit, die Sprachmodelle verarbeiten, oft ein Wortfragment, ein ganzes Wort oder ein Satzzeichen und nicht ein einzelnes Zeichen.Vollständige Definition ansehen → im gegebenen Kontext voraus; sie prüfen Fakten nicht gegen eine Ground-Truth-Datenbank, bevor sie antworten. Als ein Research Scholar von GovAI nach einer KI-Halluzination, die beinahe eine US-Militäroperation ausgelöst hätte, warnte, „it's important for service members to understand the uncertainty inherent to LLMs“, gilt diese Warnung mit identischer Wucht für Leitwartenpersonal, Energiehändler und die KI-Produktteams, die an sie verkaufen.

Warum das speziell in Energie und Versorgung zählt

Netzbetrieb läuft in engen Toleranzen. Die Standards der North American Electric Reliability Corporation, insbesondere die CIP- und FAC-Familien, schreiben verbindliche Compliance-Pflichten vor, mit Strafen bis zu 1 Million Dollar pro Verstoß und Tag. Ein einziger Dispatch-Fehler auf einer Hochspannungsleitung kann einen Spannungskollaps auslösen, der sich schneller ausbreitet, als ein menschlicher Operator eingreifen kann. Der Nordost-Blackout vom August 2003, ausgelöst durch einen Softwarefehler im Alarmsystem der Leitwarte von FirstEnergy, schnitt 55 Millionen Menschen vom Strom ab; die Abfolge vom ersten Fehler bis zum großflächigen Ausfall dauerte rund 90 Minuten. Ein KI-System, das einen Netzzustand halluziniert, und sei es kurz, komprimiert dieses Zeitfenster.

Die ökonomische Struktur von Versorgern verstärkt diese Asymmetrie. Regulierte, privatwirtschaftliche Versorger wie Duke Energy oder Dominion Energy erwirtschaften ihre zulässige Rendite über Tarifverfahren, die von den staatlichen Regulierungskommissionen genehmigt werden. Ein Zuverlässigkeitsvorfall zieht nicht nur direkte NERC-Bußgelder nach sich; ererDas Verhältnis von Interaktionen (Likes, Kommentare, Shares) zur Reichweite eines Inhalts. Zeigt, wie stark die Zielgruppe reagiert, gemessen an der Zahl der Personen, die den Inhalt gesehen haben.Vollständige Definition ansehen → setzt den Versorger Anerkennungsverfahren aus, in denen die Kommission ablehnen kann, dass das Unternehmen entstandene Kosten erstattet bekommt. Wenn ein KI-gestütztes Outage-Management-System einen falschen Schaltauftrag erteilt und daraus Folgeschäden entstehen, landet die Frage, wer die Kosten trägt, Aktionäre oder Tarifkunden, in einem Tarifverfahren mit stark öffentlichen und politisch aufgeladenen Konsequenzen.

Energiehändler, die in Großhandelsmärkten unter FERC-Zuständigkeit agieren, stehen vor einer vergleichbaren Exponierung. LMP-Signale (locational marginal pricing) verschieben sich minütlich. Ein KI-Tool, das eine Engpasssituation im PJM- oder MISO-Netz selbstbewusst falsch liest und auf Basis einer halluzinierten Netztopologie eine Position ausführt oder empfiehlt, macht keinen kleinen Prognosefehler; es erzeugt eine Haftung, die Regulierer und Gegenparteien nach Marktmanipulationsvorschriften prüfen werden.

Wie Halluzination tatsächlich zu einer schlechten Netzentscheidung führt

Die Mechanik sollte man klar benennen. Große Sprachmodelle, die auf Textkorpora trainiert sind, entwickeln starke statistische Assoziationen zwischen Konzepten. Fragt man sie nach der Schaltreihenfolge eines bestimmten Umspannwerks oder nach den Engpassmanagement-Regeln eines regionalen ISO, erzeugen sie eine Antwort, die sprachlich kohärent und oft teilweise korrekt ist. Das Problem: Teilweise Korrektheit ist im Netzbetrieb keine abgeschwächte Form von Erfolg. Ein Schaltauftrag, der zu 80 % stimmt, ist betrieblich falsch.

Nehmen wir ein konkretes Szenario. Ein Anbieter von Energiemanagementsystemen integriert einen LLMLLMEin Large Language Model ist ein KI-System, das auf riesigen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen. Damit sind Aufgaben wie Schreiben, Zusammenfassen und Beantworten von Fragen möglich.Vollständige Definition ansehen →-basierten Assistenten, der Operatoren helfen soll, Alarmfluten bei sommerlicher Hochlast zu interpretieren. Ein Operator fragt: „Wie lautet die korrekte Lastabwurfsequenz für den 345-kV-Korridor Allegheny, wenn die Leitung Susquehanna-Roseland auslöst?“ Das Modell hat jahrelange Netzdokumentation, frühere Betriebspläne und Bulletins des Reliability Coordinators aufgenommen. Es liefert eine selbstbewusste, detaillierte Antwort mit Verweis auf konkrete Umspannwerke und Sequenzschritte. Der Betriebsplan wurde aber im März 2026 nach einer neuen PJM-Planungsstudie überarbeitet, und die Trainingsdaten des Modells stammen aus der Zeit davor. Die Antwort bildet eine Topologie ab, die es nicht mehr gibt.

Das ist das betriebliche Gegenstück zu dem, was beim militärischen Halluzinationsvorfall passierte: Ein KI-System erzeugt Ausgaben mit hoher Konfidenz aus einer veralteten oder falsch abgebildeten Wissensbasis, ohne internen Mechanismus, der die Diskrepanz meldet. Das Modell weiß nicht, was es nicht weiß.Zu verstehen, warum diese selbstbewusst falschen Antworten auf Architekturebene entstehen,ist für Netz-KI-Teams keine optionale Lektüre; es verändert, wie sie Spezifikationen und Abnahmekriterien schreiben.

Wann KI im Netzkontext eingesetzt werden sollte und wann nicht

Die Abwägungen hier sind real und nicht symmetrisch.

KI-Tools auf Basis von Retrieval-Augmented Generation (RAG), bei denen das Modell vor der Antwort eine aktuelle, autoritative Datenquelle abfragt, senken das Halluzinationsrisiko bei Faktenfragen erheblich. Mehrere Anbieter, darunter AutoGrid (inzwischen Teil des Portfolios von Schneider Electric) und Opus One, haben Tools zur Netzoptimierung gebaut, die Modellausgaben an Echtzeitdaten aus SCADA oder EMS binden. Wenn das Modell nur behaupten kann, was die Live-Telemetrie bestätigt, sinkt das Halluzinationsrisiko bei Zustandsschätzungsabfragen deutlich. Diese Architektur ist geeignet für Unterstützung bei Lastprognosen, Anomalie-Flagging und Briefing-Tools für Operatoren, bei denen das Modell Daten sichtbar macht, die es tatsächlich abgerufen hat.

Was KI-Tools auf Basis allgemeiner LLMs ohne erhebliche architektonische Leitplanken nicht tun sollten, ist: Schaltaufträge, Schutzrelais-Einstellungen oder Lastabwurfsequenzen als direkte Anweisungen an Operatoren erzeugen. Diese Unterscheidung zählt, weil mehrere aktuelle Anbieterpitches die Grenze verwischen. Ein „AI Copilot für den Netzbetrieb“, der Zustände aus einem Live-Datenstrom zusammenfasst, ist ein anderes Produkt als eines, das auf einen Prompt hin MaMaEinsatz von Software, um wiederkehrende Marketingaufgaben und Kampagnen zu automatisieren und Personalisierung in großem Maßstab über Kanäle wie E-Mail, Web und Social zu ermöglichen.Vollständige Definition ansehen →ßnahmen empfiehlt. Einkaufsteams sollten von Anbietern verlangen, genau anzugeben, welche Ausgaben aus abgerufenen Echtzeitdaten erzeugt werden und welche aus trainierten Gewichten abgeleitet sind.

Die NERC-Standards CIP-014 zur physischen Sicherheit und die entstehenden FAC-002-Planungsstandards adressieren KI-generierte Empfehlungen noch nicht explizit, aberdie Compliance-Exponierung, wenn eine KI-gestützte Entscheidung zu einem Zuverlässigkeitsereignis beiträgt,ist in den Kreisen der Reliability Coordinators bereits eine offene Frage. Regulierer brauchen keine KI-spezifische Regel, um einen Verstoß festzustellen; sie brauchen Belege dafür, dass eine Einheit den zuverlässigen Betrieb nicht aufrechterhalten hat.

Die ehrliche Abwägung lautet: KI-Tools liefern im Netzumfeld echten Mehrwert bei Mustererkennung, Dokumentation und Szenariomodellierung unter menschlicher Aufsicht. Gefährlich werden sie, wenn das Interface-Design oder die Verkaufserzählung des Anbieters die Modellausgabe als Entscheidung positioniert statt als Input für eine Entscheidung. Operatoren, die während eines Ereignisses mit hoher Alarmlast unter Druck stehen, folgen einer selbstbewussten Empfehlung auf dem Bildschirm. Ist diese Empfehlung eine Halluzination, ist die Konfidenz das Problem, nicht der Inhalt.

Netz-KI braucht menschliches Override als harte Architekturanforderung, nicht als Fußnote in einer Richtlinie. Der Militärvorfall ist als direkter Präzedenzfall zu lesen: selbstbewusste KI-Ausgabe, Umfeld mit hohen Einsätzen, unzureichende Signalisierung von Unsicherheit. Für Versorger zeigt sich die Folge eines Fehlers hier im Dunkeln.

Der vollständige Kurs zu diesem Sektor:KI in Energie & Versorgung.