+160 XP

Den richtigen Ansatz wählen: Prompt, RAG, Fine-Tuning oder Agent

# Den richtigen Ansatz wählen: Prompt, RAG, Fine-Tuning oder Agent

Ein Startup hat vier Monate und 80.000 $ in das Fine-Tuning eines Modells gesteckt, das Kundenfragen zum Produkt beantworten sollte. Dann hat ein Wettbewerber dieselbe Funktion an einem Wochenende ausgeliefert, indem er seine Hilfe-Dokumentation in einen Prompt kopiert hat. Der Wettbewerber hat gewonnen. Den falschen Ansatz zu wählen ist der teuerste Fehler in einem KI-Projekt, und er ist fast immer vermeidbar.

Es gibt vier verbreitete Wege, mit großen Sprachmodellen (LLMs, die KI hinter ChatGPT, Claude und Gemini) zu bauen. Jeder löst ein anderes Problem. Die meisten Leute greifen zum komplizierten, wenn der einfache gereicht hätte.

Das ändern wir.

Die vier Ansätze in einfachen Worten

Prompting. Sie schreiben gute Anweisungen und schicken sie an das Modell. Kein Setup, kein Code nötig.

RAG (Retrieval-Augmented Generation). Sie geben dem Modell Ihre eigenen Dokumente zu lesen, bevor es antwortet. „Retrieval“ heißt, es schlägt nach; „augmented“ heißt, es nutzt das Gefundene für eine bessere Antwort.

Fine-Tuning. Sie trainieren das Modell mit vielen Beispielen, sodass es einen Stil, ein Format oder ein spezialisiertes Verhalten dauerhaft aufnimmt.

Agenten. Sie lassen das Modell handeln: im Web suchen, eine E-Mail senden, eine Datenbank abfragen, andere Tools ausführen, in einer Schleife, bis eine Aufgabe fertig ist.

Die Reihenfolge, in der Sie sie prüfen sollten: erst Prompt, dann RAG, dann Agent, und Fine-Tuning fast zuletzt. Der einfachste Ansatz, der funktioniert, ist der richtige.

Ein Entscheidungsbaum, den Sie wirklich nutzen können

Alles hängt an einem realen Szenario: Sie leiten eine mittelgroße Anwaltskanzlei und wollen KI nutzen, um Verträge zu entwerfen und Fragen dazu zu beantworten.

Gehen wir den Baum durch.

Frage 1: Kann ein kluger, gut geschriebener Prompt das erledigen?

Probieren Sie das zuerst. Immer.

Moderne Modelle (GPT-5, Claude 4.5, Gemini 2.5) sind von Haus aus extrem leistungsfähig. Wenn Ihre Aufgabe auf Allgemeinwissen oder Schlussfolgern beruht, ist ein Prompt vielleicht alles, was Sie brauchen.

Für die Kanzlei: „Erkläre den Unterschied zwischen einer Freistellungs- und einer Garantieklausel in einfachem Deutsch“ braucht kein Setup. Einfach fragen.

python
from openai import OpenAI
client = OpenAI()

response = client.responses.create(
    model="gpt-5",
    input="Explain the difference between an indemnity "
          "and a warranty clause in a commercial contract, "
          "in plain English, for a non-lawyer."
)
print(response.output_text)

Wenn ein Prompt Ihre Frage zuverlässig beantwortet, hören Sie hier auf. Sie sind fertig. Bauen Sie nichts weiter.

Für eine tiefere Anleitung zum Schreiben von Prompts, die funktionieren, sind die Anthropic Prompt-Engineering-Docs kostenlos und ausgezeichnet.

Frage 2: Braucht es IHRE spezifischen Informationen?

Das Modell kennt Ihre Verträge, Ihre Mandanten und Ihre internen Richtlinien nicht. Wenn die Antwort in Ihren Dokumenten steckt, brauchen Sie RAG.

Für die Kanzlei: „Wie lang ist die Kündigungsfrist im Vertrag des Mandats Henderson?“ Das Modell hat diesen Vertrag nie gesehen. Also geben Sie ihn ihm.

Wie RAG in drei Schritten funktioniert:

1. Zerlegen Sie Ihre Dokumente in Chunks und speichern Sie sie in einer durchsuchbaren Datenbank (eine „Vektordatenbank“, die Text nach Bedeutung findet, nicht nur nach Keywords).

2. Kommt eine Frage, holen Sie die relevantesten Chunks.

3. Fügen Sie diese Chunks in den Prompt ein, damit das Modell aus Ihren echten Daten antwortet.

Eine minimale Version ist einfach kluges Einfügen:

python
relevant_clause = search_contracts("Henderson termination notice")

prompt = f"""Using ONLY the contract text below, answer the question.
If the answer isn't present, say so.

CONTRACT TEXT:
{relevant_clause}

QUESTION: What is the termination notice period?"""

response = client.responses.create(model="gpt-5", input=prompt)
print(response.output_text)

RAG ist 2026 das Arbeitspferd der Business-KI. Kundensupport, interne Wissensdatenbanken, Dokumenten-Q&A: das meiste davon ist RAG. Es hält Antworten in Ihren echten, aktuellen Daten verankert und reduziert erfundene Antworten (genannt „Halluzinationen“).

Shortcut für kleine Dokumentenmengen: heutige Modelle haben riesige Kontextfenster (Gemini 2.5 verarbeitet über eine Million Tokens, grob einige Tausend Seiten). Wenn Sie nur eine Handvoll Dokumente haben, können Sie die Vektordatenbank überspringen und alles direkt einfügen. Bauen Sie die komplexe RAG-Pipeline erst, wenn Ihr Dokumentenstapel zu groß wird.

Frage 3: Muss es HANDELN, nicht nur antworten?

Wenn die Aufgabe bedeutet, Dinge in der realen Welt zu tun (mehrere Schritte, Tools nutzen, unterwegs Entscheidungen treffen), brauchen Sie einen Agenten.

Für die Kanzlei: „Prüfe diesen neuen Vertrag, markiere jede Klausel, die unseren Standardbedingungen widerspricht, prüfe, ob die Gegenpartei frühere Streitfälle in unserem System hat, und entwirf eine Zusammenfassung als E-Mail an den Partner.“ Das ist keine einzelne Antwort. Es ist eine Folge von Handlungen mit Tool-Nutzung.

Ein Agent läuft in einer Schleife: denken, handeln, Ergebnis beobachten, wieder denken, bis die Arbeit erledigt ist.

python
response = client.responses.create(
    model="gpt-5",
    input="Review the attached contract. Flag clauses that "
          "conflict with our standard terms, look up the "
          "counterparty in our disputes database, and draft "
          "a summary email to the partner.",
    tools=[
        {"type": "file_search"},      # den Vertrag lesen
        {"type": "function", "name": "query_disputes_db"},
        {"type": "function", "name": "draft_email"}
    ]
)

Agenten sind mächtig und das heiße Thema 2026, aber schwerer zu kontrollieren und können auf überraschende Weise scheitern. Geben Sie einem Agenten den kleinsten Satz an Tools, den er braucht, und lassen Sie alles Riskante von einem Menschen freigeben (etwa das Senden dieser E-Mail). Fangen Sie mit Agenten eng an.

RAG vs Fine-Tuning vs Prompt Engineering

Watch on YouTube

Wissenscheck

1. In welcher Reihenfolge sollten Sie laut Lektion die vier Ansätze prüfen, wenn Sie mit LLMs bauen?

2. Was beschreibt den Kernzweck von RAG (Retrieval-Augmented Generation) am besten?

3. Welcher Ansatz löst im Kanzlei-Beispiel die Frage „Erkläre den Unterschied zwischen einer Freistellungs- und einer Garantieklausel in einfachem Deutsch“ am besten, und warum?

MEHRFACHAUSWAHL

4. Wählen Sie ALLE Aussagen, die die vier in der Lektion beschriebenen Ansätze korrekt unterscheiden.

Wählen Sie alle richtigen Antworten aus.

MEHRFACHAUSWAHL

5. Wählen Sie ALLE Gründe, die die Lektion dafür nennt, warum die Wahl des richtigen Ansatzes wichtig ist und warum einfacher oft besser ist.

Wählen Sie alle richtigen Antworten aus.

Frage 4: Brauchen Sie einen konsistenten STIL oder ein FORMAT, dem das Modell einfach nicht folgt?

Hier kommt Fine-Tuning ins Spiel, und es steht aus einem Grund zuletzt.

Fine-Tuning heißt, dem Modell hunderte oder tausende Beispiele zu zeigen, bis ein Verhalten in Fleisch und Blut übergeht. Es ist das richtige Werkzeug, wenn:

  • Sie jedes einzelne Mal einen sehr spezifischen Ton oder ein spezifisches Format brauchen (den exakten Vertragsstil Ihrer Kanzlei).
  • Sie viele hochwertige Beispiele zum Trainieren haben.
  • Prompting und RAG wirklich nicht ausgereicht haben, nicht nur beim ersten Versuch.

Für die Kanzlei: wenn Sie 2.000 frühere Verträge in der unverkennbaren Sprache Ihrer Kanzlei haben und wollen, dass jeder Entwurf genau dazu passt, kann Fine-Tuning diesen Stil einbacken.

Die entscheidende Unterscheidung, die Leute falsch machen: Fine-Tuning lehrt *Stil und Verhalten*, nicht *Fakten*. Bei Wissen ist es schlecht. Wenn Sie Fine-Tuning nutzen, um Informationen zum Henderson-Vertrag hinzuzufügen, wird das Modell selbstbewusst Details erfinden. Für Fakten nehmen Sie RAG. Für Stil kommt Fine-Tuning in Frage.

python
# Fine-tuning starts with example pairs, not live questions
{"messages": [
    {"role": "user", "content": "Draft a confidentiality clause."},
    {"role": "assistant", "content": "<your firm's exact house style here>"}
]}
# Sie liefern hunderte davon, dann trainieren Sie ein eigenes Modell.

Fine-Tuning kostet am meisten an Zeit, Daten und Geld. Bis 2026 brauchen weniger Projekte es, als man annimmt, weil Basismodelle und RAG immer besser werden. Greifen Sie nur dann dazu, wenn die einfacheren Werkzeuge gescheitert sind.

Alles zusammen: sie lassen sich kombinieren

Das sind keine Rivalen. Die besten Systeme stapeln sie.

Das finale Werkzeug unserer Kanzlei könnte sein: ein Agent, der RAG nutzt, um Verträge zu lesen, auf einem fine-getunten Modell für den Hausstil läuft, gesteuert von sorgfältig geschriebenen Prompts.

Aber das haben sie nicht an Tag eins gebaut. Sie haben mit einem Prompt angefangen. Dann RAG ergänzt, als es ihre Dokumente brauchte. Dann einen Agenten, als es handeln musste. Fine-Tuning haben sie erst in Betracht gezogen, als alles andere stabil war.

Diese Reihenfolge ist der ganze Punkt. Jeder Schritt bringt Kosten und Komplexität, also arbeiten Sie sich die Leiter nach oben.

Kurzreferenz

  • Prompt: Allgemeinwissen oder Schlussfolgern. Kein Setup. *„Erkläre diese Klausel.“*
  • RAG: Antworten aus Ihren eigenen Dokumenten. *„Was steht in unserem Henderson-Vertrag?“*
  • Agent: mehrstufige Aufgaben und Tool-Nutzung. *„Prüfen, Datenbank checken, E-Mail entwerfen.“*
  • Fine-Tuning: konsistenter Stil oder Format aus vielen Beispielen. *„Schreibe immer in unserer Hausstimme.“*

Key Takeaways

1. Fangen Sie immer mit einem Prompt an. Er ist kostenlos, sofort verfügbar und überraschend leistungsfähig. Die meisten Ideen sollten hier getestet werden, bevor Sie etwas bauen.

2. Nutzen Sie RAG für Fakten, Fine-Tuning für Stil. Das zu verwechseln ist der häufigste und teuerste Fehler. Ihre Dokumente gehen in RAG; Ihr Ton geht ins Fine-Tuning.

3. Arbeiten Sie sich die Leiter hoch. Prompt, dann RAG, dann Agent, und Fine-Tuning fast zuletzt. Jeder Schritt bringt Kosten, also klettern Sie nur, wenn der einfachere nachweislich scheitert.

4. Bei kleinen Dokumentenmengen lassen Sie RAG ganz weg. Die heutigen großen Kontextfenster erlauben es, ein paar Dokumente direkt in den Prompt zu kopieren. Bauen Sie die Pipeline erst, wenn der Stapel zu groß wird.

5. Kombinieren Sie Ansätze in echten Systemen, aber fügen Sie sie einzeln hinzu. Validieren Sie jede Schicht, bevor Sie die nächste draufsetzen.

Was Sie aus dieser Lektion umsetzen

Diese Maßnahmen sind im Playbook der Rolle zusammengefasst.

  • Arbeiten Sie sich hoch: Prompt, RAG, Agent, dann Fine-Tuning
  • RAG für Fakten, Fine-Tuning für Stil
  • RAG überspringen und kleine Dokumentmengen direkt in den Prompt einfügen
Vollständiges Action Playbook ansehen →

Verwandte Artikel

Aktuelle Blogartikel, die auf dieser Lektion aufbauen.

Zurück

Erst denken, dann bauen: ein KI-Problem richtig fassen

Weiter

Scoping, Daten und Erfolgskriterien