DataKI- & Machine-Learning-Strategie

Wenn KI-Strategie zur Infrastruktur wird: Was CDOs 2026 verantworten müssen

Die meisten Organisationen sind über die Frage hinaus, ob sie in KI investieren sollen. Der eigentliche Druck auf CDOs liegt jetzt darin, zu entscheiden, welche Entscheidungen sie selbst verantworten, welche sie delegieren und wie sie die darunterliegende Dateninfrastruktur aufbauen, die aus KI etwas anderes macht als eine Reihe teurer Experimente.

🎙️

Podcast anhören

3 min

Ein Fortune-500-Händler betreibt siebzehn verschiedene KI-Initiativen in Pricing, Demand Forecasting, Kundensegmentierung und Supply-Chain-Optimierung. Jede wurde von einer anderen Business Unit genehmigt. Jede nutzt einen anderen Anbieter. Keine teilt sich einen Data Layer. Wenn der CFO fragt, welchen Lift das Unternehmen aus seinen KI-Investitionen tatsächlich zieht, kann niemand das mit Überzeugung beantworten. Das ist kein Sonderfall. Es beschreibt die Mehrheit der großen Unternehmen im Jahr 2026.

Die Position des CDO ist in diesem Moment gleichzeitig mächtiger und fragiler als noch vor zwei Jahren. Der Druck, KI-Ergebnisse zu zeigen, ist hoch. Das Budget ist oft real. Aber die organisatorische Architektur, um Wert im großen Maßstab zu erfassen, bleibt in den meisten Unternehmen fragmentiert.

Die strukturelle Verschiebung, die sich im Unternehmen abspielt

Die erste Welle der Enterprise-KI (etwa 2022 bis 2024) war vom Experimentieren geprägt. Teams stellten Proof-of-Concepts auf, Pilotprojekte liefen in kontrollierten Umgebungen, und Führungskräfte schauten sich Demos an. Die leitende Frage war die Machbarkeit: Kann das funktionieren?

Diese Phase ist im Wesentlichen vorbei. 2026 hat sich die leitende Frage zur Belastbarkeit verschoben: Lässt sich das skalieren, lässt es sich governen, und kann sich das Geschäft tatsächlich darauf verlassen? Das ist ein grundlegend anderes Problem, und es landet direkt auf dem Schreibtisch des CDO.

Branchenübergreifend sind mehrere strukturelle Muster sichtbar geworden. Erstens hat die Verbreitung von Large-Language-Model-Integrationen in Geschäftsprozesse eine neue Kategorie von Datenrisiken geschaffen. Wenn ein Sales-Team einen vom Anbieter eingebetteten KI-Assistenten (Salesforce Einstein, Microsoft Copilot in Dynamics) nutzt, um Angebote zu entwerfen oder Kundenhistorien zusammenzufassen, entstehen dabei Datenflüsse, die die meisten Organisationen nicht gemappt haben. Laut Gartner-Research aus 2025 hatten in jenem Jahr weniger als 30 % der Unternehmen ihre Shadow-AI-Nutzung dokumentiert. Der Wert hat sich verbessert, aber die Lücke bleibt erheblich.

Zweitens hat sich die Ökonomie des Model Deployment so weit verändert, dass Build-vs.-Buy-Entscheidungen neu bewertet werden müssen. Die Kosten für den Betrieb fine-getunter Open-Weight-Modelle (Metas Llama-Familie, Mistral) sind seit 2023 deutlich gesunken. Für Organisationen mit proprietären Datenbeständen ist das Argument, diese Daten in einer selbst gehosteten Umgebung zu halten statt sie an eine Third-Party-API zu senden, sowohl bei Kosten als auch bei Governance überzeugender geworden.

Drittens haben Boards begonnen, nach AI Governance zu fragen, was vor zwei Jahren nicht der Fall war. Der stufenweise Zeitplan zur Durchsetzung des EU AI Act, zusammen mit ersten Durchsetzungsmaßnahmen im Finanzsektor, hat das Thema aus dem Compliance-Team auf die Board-Ebene verlagert.

Was das für den CDO bedeutet

Der CDO, der KI-Strategie als Technologieeinkauf behandelt, verliert schnell an Relevanz. Diejenigen, die dauerhaften Einfluss aufbauen, machen etwas anderes: Sie definieren KI-Strategie als Verlängerung der Datenstrategie, was bedeutet, den Infrastructure Layer zu verantworten, von dem jede KI-Initiative abhängt.

Konkret umfasst das vier Dinge, die schwieriger sind, als sie klingen.

Einheitliche Datensemantik. KI-Modelle, ob prädiktiv, generativ oder hybrid, übernehmen die Inkonsistenzen Ihrer Daten. Wenn „Kunde“ in Ihrem CRM etwas anderes bedeutet als in Ihrem Data Warehouse, werden Ihr Churn-Prediction-Modell und Ihre LLM-generierte Ansprache Ergebnisse produzieren, die sich widersprechen. Semantische Konflikte aufzulösen ist unglamouröse Arbeit, aber sie ist die Voraussetzung für KI, auf die sich ein Geschäft tatsächlich verlassen kann.

Frameworks für Vendor Accountability. Die meisten Unternehmen betreiben KI mit einem Mix aus Anbietern: Hyperscaler (Azure OpenAI, Google Vertex, AWS Bedrock), Spezialanbieter und interne Entwicklungen. Jeder bringt andere Data-Retention-Richtlinien, Update-Zyklen für Modelle und Audit-Fähigkeiten mit. Der CDO braucht ein strukturiertes Framework, um diese zu bewerten, nicht bloß eine juristische Checkliste. Wenn Anthropic oder OpenAI ein zugrundeliegendes Modell aktualisiert: Erkennt Ihr Prozess zur Output-Validierung den Behavioral Drift? Die meisten Organisationen haben gar keinen.

Neu definieren, was „Data Product“ im KI-Kontext bedeutet. Das Data-Product-Konzept ist seit einigen Jahren im Umlauf, braucht aber für KI-Use-Cases ein substanzielles Update. Ein Data Product, das ein Dashboard speist, braucht Aktualität und Genauigkeit. Ein Data Product, das einen KI-Agenten speist, braucht zusätzlich dokumentierte Lineage, Zugriffskontrollen, die das Modellverhalten berücksichtigen, und klare Verantwortung für die Outputs, die das Modell erzeugt. Das ist eine komplexere Spezifikation, und sie verlangt vom CDO eine viel engere Zusammenarbeit mit AI-Engineering-Teams als historisch üblich.

Governance, die im Tempo des Deployments mithält. Das ist der schwierigste Punkt. Klassische Data-Governance-Prozesse wurden für eine Welt gebaut, in der neue Data Pipelines Wochen oder Monate bis zum Deployment brauchten. In einem Umfeld, in dem ein Business Analyst an einem Nachmittag einen Custom GPT aufsetzen oder ein No-Code-KI-Tool an ein Geschäftssystem anbinden kann, muss die Governance-Funktion vom Gatekeeping zu eingebetteten Standards wechseln. Das bedeutet Policy-as-Code, wo möglich, und klare Eskalationswege, wo nicht.

Praktische Prioritäten für CDOs in dieser Lage

  • Prüfen Sie die KI-Anbieterlandschaft in Ihrer Organisation vor dem nächsten Budgetzyklus, nicht als Kostenübung, sondern als Mapping der Datenflüsse. Sie können nicht governen, was Sie nicht gefunden haben.
  • Verlangen Sie, dass jede neue KI-Initiative einen Data Owner benennt, nicht nur einen Business Sponsor. Den Business Sponsor interessiert das Ergebnis. Der Data Owner ist für die Inputs und die Lineage verantwortlich.
  • Nehmen Sie Ihre Datenverträge mit Hyperscalern erneut unter die Lupe. Mehrere große Anbieter haben 2024 und 2025 ihre Terms of Service so geändert, dass es betrifft, wie Kundendaten für Modelltraining genutzt werden können. Diese Änderungen wurden nicht immer prominent angekündigt (Microsoft, Google und Amazon haben jeweils Anpassungen vorgenommen, die eine Prüfung mit der Rechtsabteilung wert sind).
  • Treiben Sie KI-Kompetenz auf der Governance-Ebene voran, nicht nur bei den Praktikern. Ein Data-Governance-Komitee, das den Unterschied zwischen einem fine-getunten Modell und einem Retrieval-Augmented-Generation-System nicht versteht, wird schlechte Abwägungen zu Risiko und Investition treffen.
  • Bauen Sie eine kleine interne Fähigkeit für Model Evaluation und Red-Teaming auf. Das braucht kein großes Team, aber es braucht dedizierte Aufmerksamkeit. Sich vollständig auf Benchmarks der Anbieter zu verlassen (Hinweis: alle großen KI-Anbieter veröffentlichen Performance-Aussagen, die ihren kommerziellen Interessen dienen und mit unabhängigen Assessments abgeglichen werden sollten), setzt die Organisation Risiken aus.

Der CDO, der die Frage „Welche Datenarchitektur macht unser KI-Portfolio verlässlich und auditierbar?“ glaubwürdig beantworten kann, hält eine Position, die derzeit keine andere Führungskraft verantwortet. Auf diese Rolle lohnt es sich 2026 hinzuarbeiten.

Mehr dazu

Die Lektionen, die diesen Artikel weiterführen, frei zugänglich.

  1. 1CDO-KI-Strategie: Priorisierung, Build/Buy & WertschöpfungsketteKI- & Machine-Learning-Strategie
  2. 2Das AI Operating Model und die PlattformKI- & Machine-Learning-Strategie
  3. 3Die Lücke zwischen POC und Produktion schließenKI- & Machine-Learning-Strategie
  4. 4AI-ROI messenKI- & Machine-Learning-Strategie
  5. 5Generative KI im Unternehmen: RAG, Risiken & GovernanceKI- & Machine-Learning-Strategie

Artikel gelesen?

Bestätigen Sie Ihre Lektüre, um XP zu sammeln und Ihr Radar zu füttern.