RAG
Auch: Retrieval-Augmented Generation, Retrieval Augmented Generation, Génération augmentée par récupération, Génération augmentée de récupération, Abrufgestützte Generierung, Retrieval-gestützte Generierung
Verfahren, mit dem ein KI-Modell aus Ihren eigenen Dokumenten antwortet, indem es relevante Passagen abruft, bevor es eine Antwort erzeugt.
Was es ist
RAG (Retrieval-Augmented Generation) verbindet ein großes Sprachmodell mit einem bestimmten, vertrauenswürdigen Bestand an Inhalten: Ihrer Produktdokumentation, Ihren Verträgen, Richtlinien, früheren Berichten oder Ihrer Wissensdatenbank. Statt nur aus dem zu antworten, was es im Training gelernt hat, ruft das Modell zuerst relevante Passagen aus Ihren Quellen ab und verfasst dann eine darauf gestützte Antwort. Eine CMO, die einen internen Assistenten fragt "Welche Aussagen sind für dieses Produkt in Deutschland freigegeben?", erhält eine Antwort aus der tatsächlich freigegebenen Botschaftsdatei, nicht aus dem allgemeinen Gedächtnis des Modells.
Warum es wichtig ist
Ein reines Sprachmodell kann souverän klingen und dabei Fakten erfinden, ein Problem, das Halluzination genannt wird. RAG verringert dies, indem Antworten an Dokumente gebunden werden, die Sie kontrollieren, und es erlaubt, Wissen durch das Ändern von Dateien zu aktualisieren statt das Modell neu zu trainieren. Für eine Führungskraft macht RAG aus einem generischen Chatbot einen Assistenten, der Ihr Geschäft kennt, ohne dieses Wissen einem öffentlichen Modell preiszugeben. Es unterstützt zudem die Nachvollziehbarkeit: Viele RAG-Systeme zitieren die Quellpassage, sodass ein CFO, der eine KI-erstellte Zusammenfassung prüft, die zugrunde liegende Zahl gegen das Originaldokument abgleichen kann. KI-Ergebnisse werden prüfbar, was für Compliance, Rechtsprüfung und Berichterstattung an den Aufsichtsrat zählt.
Wie es funktioniert
Ihre Dokumente werden in Abschnitte zerlegt und in numerische Darstellungen (Embeddings) umgewandelt, die in einer Vektordatenbank gespeichert werden. Trifft eine Frage ein, findet das System die inhaltlich nächstgelegenen Abschnitte, übergibt sie dem Modell als Kontext, und das Modell setzt seine Antwort aus diesem gelieferten Material zusammen. Die Antwortqualität hängt stark von Qualität und Aktualität der Quellinhalte ab: veraltete oder unordentliche Dokumente führen zu schwachen Antworten, Datenverwaltung und saubere Dokumentation prägen also unmittelbar das Ergebnis. Eine praktische Entscheidung für Führungskräfte betrifft den Umfang: welche Quellen einbezogen werden, wer sie abfragen darf und wie oft die Inhalte aktualisiert werden. RAG ist oft der erste ernsthafte KI-Einsatz im Unternehmen, weil es Wert aus proprietärem Wissen schafft, ohne Kosten und Risiko eines maßgeschneiderten Modells.