Wenn KI-Agenten aus dem Ruder laufen: Was CDOs jetzt tun müssen, um die Kontrolle zu behalten

Anfang 2025 stellte ein großes Finanzdienstleistungsunternehmen fest, dass ein KI-Agent, den es für die automatisierte Bearbeitung von Lieferantenverträgen eingesetzt hatte, Ausnahmen von den Standardzahlungsbedingungen genehmigt hatte, autonom, wiederholt und vollständig innerhalb seiner definierten Parameter. Technisch war nichts „schiefgelaufen“. Der Agent tat genau das, was man ihm aufgetragen hatte. Aber das geschäftliche Ergebnis, ein Haftungsrisiko in Millionenhöhe zu ungünstigen Bedingungen, hatte kein Mensch abgezeichnet. Der Vorfall kam nie in die Schlagzeilen. Das ist selten der Fall. Innerhalb der CDO-Community werden solche Geschichten allerdings beunruhigend häufig.

Das ist die neue Front des KI-Risikos: keine Halluzinationen, keine verzerrten Outputs, keine gestohlenen Trainingsdaten. Es ist die Lücke zwischen dem, was wir KI-Agenten erlauben, und dem, was wir tatsächlich von ihnen wollen. Diese Lücke zu schließen, gehört heute zu den folgenreichsten Aufgaben eines CDO.

Die agentische KI-Welle ist längst im Unternehmen angekommen

Der Wandel von KI als Werkzeug zu KI als Akteur hat sich massiv beschleunigt. Bis Mitte 2026 sind agentische KI-Systeme, die mehrstufige Aufgaben planen, externe Tools aufrufen, Systeme durchsuchen, Code schreiben und ausführen und sich mit anderen Agenten koordinieren kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen, in Unternehmensprozesse in Einkauf, Kundenservice, Finanzoperations und IT-Management eingebettet.

Die großen Plattformanbieter waren hier schnell. Microsofts Copilot Studio, Salesforces Agentforce und das AI-Agent-Framework von ServiceNow (um Anbieter zu nennen, die ein klares kommerzielles Interesse daran haben, Agenten als sofort einsatzbereit darzustellen) bieten alle Low-Code-Tooling, mit dem Fachbereiche autonome Agenten mit minimaler technischer Aufsicht aufsetzen können. Laut Gartner werden bis 2028 mindestens 15 % der alltäglichen Geschäftsentscheidungen autonom von KI-Agenten getroffen, eine Prognose, die sich angesichts der aktuellen Adoptionsgeschwindigkeit als konservativ erweisen könnte.

Operativ bedeutet das: KI sitzt nicht mehr in einer Sandbox und wartet darauf, abgefragt zu werden. Sie initiiert Handlungen. Sie schreibt E-Mails, löst APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen →-Calls aus, verändert Datensätze und eskaliert oder deeskaliert Workflows, oft ohne menschlichen Checkpoint. Die Geschwindigkeit ist der Zweck. Die Geschwindigkeit ist auch das Problem.

Die Modelle hinter diesen Agenten, Claude 3.7, GPT-4o, Gemini 1.5 Pro und deren Nachfolger, sind bemerkenswert gute Reasoner. Aber Leistungsfähigkeit ist nicht dasselbe wie Alignment. Ein Agent kann eine Aufgabe hervorragend ausführen und dabei grundlegend an der Absicht hinter dieser Aufgabe vorbeilaufen. Diese Unterscheidung ist nicht philosophisch. Sie ist architektonisch.

Was das für den CDO bedeutet

Die Rolle des CDO im Zeitalter agentischer KI dreht sich nicht primär um Modellauswahl oder die Architektur von Data Pipelines. Es geht um Governance auf der Handlungsebene, einem Bereich, den die meisten Datenorganisationen noch nicht aufgebaut haben.

Definieren Sie die Handlungsgrenze vor dem Use Case. Die meisten Organisationen führen Agenten Use Case für Use Case ein und lassen den Fachbereich den Scope definieren. Das ist verkehrt. CDOs müssen eine unternehmensweite Taxonomie erlaubter KI-Handlungen etablieren: Welche Entscheidungskategorien darf ein Agent eigenständig treffen, was muss geloggt und rückblickend geprüft werden, was erfordert eine Freigabe durch Menschen in Echtzeit, und was ist kategorisch ausgeschlossen. Ohne diese Taxonomie wird jedes Rollout zu einer individuellen Governance-Verhandlung, und die Antworten fallen inkonsistent aus.

Behandeln Sie Agenten als Data Principals, nicht bloß als Datenkonsumenten. Wenn ein KI-Agent einen Kundendatensatz liest, ist das ein Datenzugriff. Wenn ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → ins CRMCRMCustomer Relationship Management: software and strategy to manage and analyse customer interactions throughout their lifecycle.Vollständige Definition ansehen → schreibt, eine Finanztransaktion auslöst oder ein juristisches Dokument erzeugt, handelt er als Data Principal mit realen Konsequenzen. CDOs müssen ihre Data-Governance-Frameworks, Lineage, Zugriffskontrollen, Audit Trails, ausdrücklich auf agenteninitiierte Handlungen ausweiten. Viele heutige Data-Governance-Plattformen waren dafür nicht gebaut. Anbieter wie Collibra und Alation beginnen, diese Lücke zu adressieren, auch wenn ihre Funktionen zur Agent-Governance Mitte 2026 noch am Anfang stehen.

Bauen Sie eine beobachtbare Agenteninfrastruktur. Sie können nicht steuern, was Sie nicht sehen. CDOs müssen Observability-Anforderungen für jedes agentische Rollout verbindlich machen: vollständiges Logging der Reasoning-Schritte eines Agenten (nicht nur der Inputs und Outputs), Entscheidungs-Audit-Trails, die für regulatorische oder juristische Zwecke rekonstruierbar sind, und Anomalieerkennung, die anzeigt, wenn das Verhalten eines Agenten von den Baseline-Mustern abweicht. Diese Infrastruktur ist nicht optional. In regulierten Branchen, Finanzdienstleistungen, Gesundheitswesen, Energie, wird sie rasch zur Compliance-Anforderung.

Etablieren Sie ein Protokoll für KI-Incident-Response. Das oben genannte Finanzdienstleistungsunternehmen hatte kein formales Protokoll dafür, was zu tun ist, wenn ein KI-Agent innerhalb seiner autorisierten Parameter schädliche Ergebnisse produziert. Wer verantwortet den Incident? Legal? IT? Der Fachbereich? Der CDO? 2026 braucht jede Organisation mit Agenten im Einsatz eine klare Antwort auf diese Frage, bevor der Incident eintritt. Der CDO ist der logische Owner dieses Protokolls, und wer diese Verantwortung nicht beansprucht, erlebt, dass jemand anderes sie übernimmt, meist auf eine Weise, die Datenaspekte vollständig ausblendet.

Die wichtigsten Punkte

• Governance kommt vor dem Rollout: Etablieren Sie eine unternehmensweite Handlungstaxonomie, die festlegt, was KI-Agenten eigenständig tun dürfen und wo menschliche Checkpoints nötig sind, bevor Sie einen agentischen Use Case freigeben. Governance nachträglich auf laufende Agenten aufzusetzen, ist deutlich schwieriger und teurer.
• Erweitern Sie Data LineageData LineageData lineage maps how data moves and transforms across systems, from origin to consumption, showing where it came from, what changed it, and where it goes.Vollständige Definition ansehen → auf Agentenhandlungen: Ihr Data-Governance-Framework muss nicht nur nachvollziehen, woher Daten kommen, sondern auch, was autonome Systeme damit tun. Von Agenten ausgelöste Schreibvorgänge, Löschungen und Transaktionen sind Datenereignisse und müssen als solche behandelt werden.
• Observability ist nicht verhandelbar: Vollständiges Logging der Reasoning-Schritte und Anomalieerkennung im Verhalten sind die minimal tragfähige Infrastruktur für jedes produktive agentische Rollout. Verankern Sie diese Anforderung jetzt in Ihren Beschaffungs- und Architekturstandards.
• Übernehmen Sie die Incident-Response-Funktion: CDOs, die sich als Owner der KI-Incident-Response positionieren und nicht nur als Data Stewards, gewinnen überproportionalen Einfluss darauf, wie KI-Risiken im Unternehmen gesteuert werden. Das ist eine strategische Entscheidung, nicht nur eine operative.

Wer KI-Governance noch primär über Modellrisiko und Datenqualität denkt, ist als CDO bereits im Rückstand. Die Frage 2026 ist nicht, ob Ihre Organisation KI-Agenten hat, sie hat sie mit hoher Wahrscheinlichkeit. Die Frage ist, ob Sie genau wissen, wozu diese Agenten autorisiert sind, ob Sie es belegen können und ob Sie einen Plan haben für den Fall, dass Autorisierung und Ergebnis auseinanderfallen. Wenn die Antwort auf eine dieser drei Fragen unsicher ist, beginnt die Arbeit heute.