Wenn das KI-Modell falsch liegt: Wofür CDOs 2026 verantwortlich sind

Ein Finanzdienstleister bringt ein Credit-Scoring-Modell in den Einsatz, trainiert auf Daten von 2021. Mitte 2023 hat sich das wirtschaftliche Umfeld so weit verschoben, dass die Prognosen des Modells leise schlechter werden, aber kein Alert schlägt an. Das Business nutzt es weiter. Der CDO erfährt davon achtzehn Monate später, bei einem regulatorischen Audit. Das ist kein Gedankenspiel. Varianten dieses Szenarios haben sich bei Instituten in Europa und Nordamerika abgespielt, und das Muster ist immer dasselbe: Das Modell war zum Start solide, die Governance darum herum nicht.

Mit der Skalierung von KI in großen Organisationen verschiebt sich der Fehlermodus. Die Frage ist nicht mehr, ob ein Modell in einer kontrollierten Umgebung funktioniert. Die Frage ist, was in Monat sechs, Monat achtzehn, Monat sechsunddreißig mit ihm passiert und wer für die Antwort verantwortlich ist.

Die Produktionsrealität, die die meisten KI-Strategien ignorieren

Die Enterprise-KI-Landschaft 2026 sieht sehr anders aus als die Proof-of-Concept-Begeisterung von 2022 und 2023. Laut den State-of-AI-Umfragen von McKinsey ist der Anteil der Organisationen, die KI in mindestens einer Geschäftsfunktion verankert haben, stetig gestiegen, aber der selbstberichtete „signifikante Wertbeitrag“ durch KI konzentriert sich weiterhin auf einen kleinen Teil dieser Deployments. Die Lücke zwischen Anzahl der Deployments und realisiertem Wert ist derzeit das zentrale strategische Problem für CDOs.

Ein Teil dieser Lücke ist ein Datenqualitätsproblem. Modelle, die auf unvollständigen, verzerrten oder zeitlich veralteten Daten trainiert wurden, liefern schlechtere Ergebnisse, und das ist gut verstanden. Weniger Aufmerksamkeit bekommt das Problem des operativen Lebenszyklus: Wer überwacht die Modellperformance in der Produktion, wie wird Drift erkannt, wie sieht der Eskalationspfad aus, wenn die Outputs eines Modells von den erwarteten Verteilungen abweichen, und wie schnell kann das Business zurückrollen oder neu trainieren.

Der Einsatz von Large Language Models bringt eine besondere Komplikation mit sich. Anders als traditionelle ML-Modelle kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen LLMs, die über APIs von Anbietern wie OpenAI, Anthropic oder Google (Gemini) eingebunden sind, ihr Verhalten ändern, wenn der Anbieter das zugrunde liegende Modell aktualisiert, teils ohne deutlichen Vorlauf. Eine kundenorientierte Anwendung, die Anfang 2024 auf GPT-4 Turbo aufgebaut wurde, kann sich heute anders verhalten, wenn der Endpoint still aktualisiert wurde. Das ist keine theoretische Sorge, es hat in Enterprise-Deployments messbare Inkonsistenzen erzeugt. CDOs, die sich allein auf Stabilitätsgarantien des Anbieters verlassen, gehen ein Risiko ein, das in den meisten AI-Governance-Frameworks nicht abgebildet ist.

Das Problem der Data Contracts

Model Governance und Data GovernanceData GovernanceData governance is the set of policies, roles, and processes that ensure data is accurate, secure, well-defined, and used responsibly across an organization.Vollständige Definition ansehen → laufen häufig als parallele Workstreams. Das sollten sie nicht. Ein Modell ist nur so stabil wie die Data PipelineData PipelineETL (Extract, Transform, Load) is a data integration process that pulls data from sources, reshapes it into a consistent format, and writes it into a target system.Vollständige Definition ansehen →, die es füttert, und Data Pipelines ändern sich permanent: Upstream-Quellsysteme werden modifiziert, Felddefinitionen driften, ETLETLETL (Extract, Transform, Load) is a data integration process that pulls data from sources, reshapes it into a consistent format, and writes it into a target system.Vollständige Definition ansehen →-Jobs werden aktualisiert, Geschäftsregeln ändern sich. Ohne formale Data Contracts, die auf PipelinePipelineAll active sales opportunities across the stages of the sales process, together with their combined potential value and probability of closing.Vollständige Definition ansehen →-Ebene durchgesetzt werden, kann ein Modell leise degradieren, während jede einzelne Komponente gesund aussieht.

Unternehmen wie Databricks (ein kommerzieller Plattformanbieter, was entsprechend zu gewichten ist) haben das Konzept der Data Contracts im Rahmen der Debatte um Data MeshData MeshData Mesh is a decentralized approach to data architecture and organization where domain teams own and serve their data as products, governed by shared standards.Vollständige Definition ansehen → und LakehouseLakehouseA hybrid architecture combining the flexibility of a data lake with the analytical capabilities of a data warehouse, on a single storage layer.Vollständige Definition ansehen →-Architektur vorangetrieben. Aber das Konzept ist älter als jede Vermarktung durch einen Anbieter. Die Disziplin ist unkompliziert: SchemaSchemaA schema is the formal blueprint that defines how data is structured, named, typed, and related within a database, file, or message.Vollständige Definition ansehen →, Semantik und Qualitätserwartungen für Daten an der Stelle definieren, an der sie eine Grenze überschreiten, und diese Definitionen programmatisch durchsetzen. Für CDOs ist es eine günstige MaMaUsing software to automate repetitive marketing tasks and campaigns, enabling personalisation at scale across channels like email, web, and social.Vollständige Definition ansehen →ßnahme mit großererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → Hebelwirkung, Data Contracts für jeden Datensatz verpflichtend zu machen, der ein Produktionsmodell speist.

Was das für den CDO bedeutet

Die Rolle des CDO bei KI wird häufig über Enablement definiert: Plattformen aufbauen, Trainingsdaten kuratieren, Experimente beschleunigen. Diese Sicht ist nicht falsch, aber unvollständig. 2026 hinterlässt ein CDO, der nicht auch die Accountability-Struktur für KI in der Produktion verantwortet, ein erhebliches Governance-Vakuum, und jemand anderes (Legal, Compliance, ein CROCROConversion Rate Optimization (CRO) is the systematic practice of increasing the percentage of users who complete a desired action, using data, testing, and user research.Vollständige Definition ansehen →) wird es füllen, zu Bedingungen, die der Datenfunktion möglicherweise nicht passen.

Konkret heißt das, dass mehrere Dinge in der Organisation zutreffen müssen.

Modellinventar und Ownership müssen als formales Artefakt existieren, nicht als Spreadsheet, das gepflegt wird von wem auch immer es interessiert. Jedes Modell in der Produktion braucht einen namentlichen Owner, einen dokumentierten Zweck, eine Lineage der Trainingsdaten, eine Performance-Baseline und eine definierte Review-Frequenz. Das klingt selbstverständlich, wird aber selten vollständig umgesetzt.

Monitoring lässt sich nicht vollständig an das Team delegieren, das das Modell gebaut hat. Ein Team, das ein Modell gebaut hat, hat einen Anreiz, bewusst oder nicht, ambivalente Signale wohlwollend zu interpretieren. Unabhängiges Monitoring oder mindestens ein strukturierter Challenge-Prozess liefert besseres Signal. Das ist dieselbe Logik, die in regulierten Finanzinstituten Model Risk Management von Modellentwicklung trennt, und sie lässt sich weit über Finance hinaus übertragen.

Die Funktionen Procurement und Vendor Management müssen in die AI Governance eingebunden werden. Wenn eine Organisation Modell-APIs von Dritten nutzt, sind die Nutzungsbedingungen, die Versionierungspolitik und der Umgang mit Daten dieses Anbieters Teil des KI-Risikoprofils der Organisation. CDOs, die diese Bedingungen nicht gelesen haben oder nicht sichergestellt haben, dass Legal und Procurement es getan haben, lagern Risiko aus, ohne eine kompensierende Kontrolle.

Schließlich sollte der CDO eine dokumentierte Position zu Anforderungen an Explainability haben, differenziert nach Use Case. Ein Modell, das interne Content-Empfehlungen erzeugt, braucht einen anderen Explainability-Standard als ein Modell, das Kredit-, Einstellungs- oder medizinische Entscheidungen beeinflusst. Explainability binär zu behandeln (entweder SHAP-Werte oder nichts) verschenkt die Chance, den Governance-Aufwand an das tatsächliche Risiko anzupassen.

Umsetzung in der Praxis

• Richten Sie ein Model Registry ein, bevor Sie hundert Modelle haben, nicht danach. Provenance und Ownership nachträglich auf ein großes Portfolio aufzusetzen, kostet erheblich und ist vollständig vermeidbar.
• Definieren Sie Drift-Schwellenwerte und automatisierte Alerts für jedes Modell in der Produktion. Wenn Sie nicht beantworten können, „was würde ein Review dieses Modells auslösen“, hat das Modell in der Produktion nichts zu suchen.
• Pinnen Sie bei LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →-basierten Anwendungen die Modellversionen, wo der Anbieter das zulässt, und testen Sie das Verhalten bei Updates, bevor sie den Produktions-Traffic erreichen. Dokumentieren Sie das in Ihrem AI Risk Register.
• Führen Sie im nächsten Quartal ein Data-Contract-Audit für Ihre fünf kritischsten Modell-Pipelines durch. Die Ergebnisse werden mit hoher Wahrscheinlichkeit mindestens eine undokumentierte Abhängigkeit zutage bringen.
• Holen Sie Ihre Rechtsabteilung zu einem AI-Governance-Review pro Quartal dazu. Nicht um zu bremsen, sondern weil die rechtliche Exposition durch Modellfehler nicht mehr theoretisch ist.

Der CDO, der AI Governance als Compliance-Häkchen behandelt, wird irgendwann das Audit erleben, das der oben genannte Finanzdienstleister erlebt hat. Der CDO, der die Accountability-Infrastruktur jetzt aufbaut, vor dem Fehler, steht strukturell anders da. Diese Infrastruktur ist nicht kompliziert. Sie ist nur unglamourös, und genau deshalb wird sie übersprungen.