Generative KI im Unternehmen: RAG, Risiken & Governance

Generative KI hat sich in weniger als zwei Jahren von einer Forschungskuriosität zur geschäftlichen Realität entwickelt. Jede größere Organisation fragt sich inzwischen: Was bedeutet GenAI für uns? Aufgabe des CDO ist es, über den Hype hinauszugehen und Antworten auf Basis einer echten Capability-Bewertung zu liefern, nicht auf Basis von Vendor-Versprechen oder Pressemitteilungen.

Was generative KI tatsächlich kann

Large Language Models (LLMs) werden auf riesigen Textkorpora trainiert, um das nächste TokenTokenA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen → in einer Sequenz vorherzusagen. Aus diesem einfachen Ziel ergibt sich ein breites Spektrum an Fähigkeiten:

Zusammenfassung: Lange Dokumente (Verträge, Berichte, Studien) zu strukturierten Zusammenfassungen verdichten. Hohe Zuverlässigkeit, sofort einsetzbar.

Klassifikation: Text kategorisieren (Kundenbeschwerden nach Typ, E-Mails nach Priorität, Dokumente nach Thema). Kann mit sorgfältigem PromptingPromptingPrompt engineering is the practice of designing and refining text inputs to guide large language models toward accurate, relevant, and reliable outputs.Vollständige Definition ansehen → an fein abgestimmtes klassisches ML heranreichen oder es übertreffen.

Generierung: Erste Entwürfe schreiben (Marketingtexte, Produktbeschreibungen, Code, E-Mails). Hohe Geschwindigkeit, schwankende Qualität, bei markenrelevanten Inhalten immer mit menschlicher Prüfung.

Extraktion: Strukturierte Informationen aus unstrukturiertem Text ziehen (Daten aus Verträgen, Adressen aus E-Mails, klinische Angaben aus Notizen). Hoher Wert in dokumentenintensiven Branchen.

Question Answering (RAG): Fragen beantworten, verankert in einer bestimmten Wissensbasis, mittels Retrieval-Augmented Generation. Das Modell ruft relevante Dokumente ab und antwortet dann auf deren Basis. Ermöglicht Use Cases nach dem Muster „chat with your documents“.

Code-Generierung: Code schreiben, vervollständigen, reviewen und debuggen. Produktivitätsgewinne von 20-30 % durch GitHub Copilot wurden in kontrollierten Studien bestätigt.

Die RAG-Architektur

Retrieval-Augmented Generation (RAG) ist das wichtigste GenAI-Muster für Enterprise-Use-Cases. Es löst die grundlegende Limitierung von LLMs: Das Wissen des Modells ist zum Trainingszeitpunkt festgeschrieben, und es halluziniert, wenn es nach Informationen gefragt wird, auf die es nicht trainiert wurde.

RAG funktioniert in zwei Schritten:

1. Retrieval: Stellt ein Nutzer eine Frage, wird die Wissensbasis nach relevanten Dokumenten/Passagen durchsucht (über Vektor-Ähnlichkeitssuche)

2. Generierung: Frage und abgerufene Dokumente werden dem LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen → als Kontext übergeben; es antwortet auf Basis der bereitgestellten Dokumente

Das Ergebnis: ein Modell, das alles in Ihrer Wissensbasis kennt, nicht nur das, was in seinen Trainingsdaten stand. Aktuell, verankert in Ihren spezifischen Informationen, mit Verweisen auf die Quelldokumente.

Use Cases: internes Wissensmanagement (Mitarbeitende fragen HR-Richtlinien, Produktdokumentation, vergangene Projekte ab), Support gegenüber Kunden (Anfragen werden aus Produktdokumentation und FAQs beantwortet), Vertragsprüfung (nicht standardkonforme Klauseln durch Abgleich mit Standardvorlagen markieren).

Das GenAI-Risiko-Framework

Generative KI bringt Risiken mit sich, die klassisches ML nicht hat:

Halluzination: LLMs erzeugen mit großererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → Sicherheit falsche Informationen. In einer kundenseitigen Anwendung kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen halluzinierte juristische oder medizinische Angaben Haftung auslösen. Gegenmaßnahmen: RAG (verankert Antworten in geprüften Dokumenten), Output-Review bei hohem Risiko, Unsicherheitssignale.

Prompt Injection: Bösartige Eingaben, die darauf ausgelegt sind, die Systemanweisungen zu überschreiben. Beispiel: Ein Nutzer formuliert eine Anfrage so, dass das Modell Content-Filter ignoriert. Gegenmaßnahmen: Input-Validierung, Ausführung in der Sandbox, Defense-in-Depth.

Datenschutz: Sensible Daten an eine LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →-APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen → von Dritten zu senden (OpenAI, Anthropic, Google) bedeutet, dass diese Daten Ihre Umgebung verlassen. Gegenmaßnahmen: Private Deployment (on-premise oder Private Cloud), Anonymisierung der Daten vor APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen →-Aufrufen, DPA-Verträge mit dem Anbieter.

Bias und Fairness: LLMs übernehmen Verzerrungen aus den Trainingsdaten. In HR- oder Kreditanwendungen erzeugen verzerrte Outputs rechtliche Risiken. Gegenmaßnahmen: menschliche Prüfung bei Entscheidungen mit hohem Einsatz, Bias-Auditing, vielfältige Evaluationsdatensätze.

Marken- und Reputationsrisiko: Kundenseitige GenAI-Anwendungen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Outputs erzeugen, die korrekt aber unpassend sind, oder falsch und schädlich. Gegenmaßnahmen: Output-Filter, menschliche Prüfung, begrenzter Umfang beim ersten Rollout.

Ein GenAI-Governance-Framework aufbauen

Ein GenAI-Governance-Framework für das Unternehmen:

Gestufte Deployment-Freigabe: Interne Nutzung mit geringem Risiko (Zusammenfassungen für Mitarbeitende) → beschleunigte Freigabe. Kundenseitige Anwendungen → vollständige Prüfung inklusive Legal, Compliance und Marke. Entscheidungen mit hohem Einsatz (Kredit, Recruiting, Medizin) → explizites Risk Assessment und regulatorische Prüfung.

Acceptable Use Policy: Wofür dürfen Mitarbeitende GenAI nutzen? Private Geräte oder unternehmensseitig freigegebene Tools? Umgang mit vertraulichen Informationen? Eine Policy, die Mitarbeitende verstehen und befolgen.

Vendor-Bewertung: Für jede LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →-APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen → prüfen: Wo werden Daten verarbeitet? Wie sehen die Aufbewahrungsfristen aus? Gibt es einen DPA? Ist das Modell auditierbar?

Output-Monitoring: Bei Produktionsanwendungen laufend Output-Qualität, Nutzerzufriedenheit und Fehlerraten überwachen. GenAI-Anwendungen degradieren anders als klassisches ML, meist über Qualitätsdrift, nicht über Accuracy-Drift.

Quizfragen

1. Was ermöglicht RAG (Retrieval-Augmented Generation) in einem Enterprise-Kontext in erster Linie?

A) Es macht LLMs schneller

B) Es erlaubt dem LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →, auf Basis Ihrer spezifischen Wissensbasis zu antworten (nicht nur seiner Trainingsdaten) und reduziert so Halluzinationen

C) Es senkt die Inferenzkosten der Modelle

D) Es verbessert die Qualität des generierten Codes

Antwort: B

2. Was ist das Hauptrisiko von „Prompt Injection“ in einer GenAI-Anwendung?

A) Das Modell generiert zu langsam Antworten

B) Eine bösartige Eingabe, die darauf ausgelegt ist, die Systemanweisungen des Modells zu umgehen und möglicherweise Content-Filter zu deaktivieren

C) Das Modell verbraucht zu viele TokensTokensA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen →

D) Die Antworten enthalten zu viele Halluzinationen

Antwort: B

3. Welche Art von Anwendung erfordert in einem gestuften GenAI-Governance-Framework eine vollständige Legal- und Compliance-Prüfung?

A) Zusammenfassung interner Dokumente für Mitarbeitende

B) Code-Generierung für Entwickler

C) Kundenseitige Anwendungen und alle Entscheidungen mit hohem Einsatz (Kredit, Recruiting, Medizin)

D) Übersetzung interner Dokumente

Antwort: C