Wann KI hilft und wann nicht

# Wann KI hilft und wann nicht

Ein Anwalt bat ChatGPT 2023, Präzedenzfälle für eine Klageschrift zu finden. ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → erhielt sechs perfekt aussehende Fälle, samt Zitierstellen. Der Richter stellte später fest, dass alle sechs erfunden waren. Der Anwalt wurde mit einer Geldstrafe belegt und landete in den landesweiten Nachrichten.

Die KI tat genau das, wofür sie gebaut wurde: flüssigen, selbstbewussten Text produzieren. Das Problem war die Aufgabe. ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → brauchte geprüfte Fakten. ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → bekam einen überzeugenden Entwurf.

Diese Lektion gibt Ihnen eine einfache Regel, um diese zwei Situationen zu unterscheiden, damit Ihnen dieser Fehler nie passiert.

Das Grundproblem in einem Satz

Ein Large Language ModelLarge Language ModelA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen → (die Technologie hinter ChatGPT, Claude und Gemini) sagt wahrscheinlich klingenden Text voraus. Es „weiß" Dinge nicht so, wie eine Datenbank es tut.

Das heißt: Es ist brillant darin, plausible Sprache zu erzeugen, und unzuverlässig darin, exakte Wahrheit zu garantieren. Wenn plausibel und wahr zufällig zusammenfallen, prima. Wenn nicht, bekommen Sie eine selbstbewusst falsche Antwort, auch bekannt als „Halluzination" (die KI erfindet etwas und klingt dabei sicher).

Die Frage lautet also nie „Ist die KI schlau genug?" Die Frage lautet „Belohnt diese Aufgabe Plausibilität, oder verlangt sie Geprüftes?"

Die Entscheidungsregel mit zwei Fragen

Bevor Sie dem Output einer KI vertrauen, fragen Sie zwei Dinge:

1. Ist das ein Entwurf oder eine endgültige Antwort?

Ein Entwurf ist etwas, das Sie prüfen und bearbeiten. Eine endgültige Antwort geht mit Ihrem Namen direkt raus.

2. Ist es leicht überprüfbar?

KKThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Sie es in Sekunden prüfen, oder würde ein Fehler unbemerkt durchgehen?

Hier ist die Regel:

• Grünes Licht: Es ist ein Entwurf ODER Sie kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen es schnell überprüfen. Nutzen Sie KI frei.
• Gelbes Licht: Es ist eine endgültige Antwort, aber leicht zu prüfen. Nutzen Sie KI und überprüfen Sie dann jede Aussage.
• Rotes Licht: Es ist eine endgültige Antwort UND schwer zu überprüfen UND jemand trägt die Verantwortung dafür, dass sie stimmt. Geben Sie das nicht an eine KI ab.

Grünes Licht: lassen Sie die KI laufen

Diese Aufgaben spielen den Stärken des Modells zu: Sprache, Struktur und erste Entwürfe.

Umformatieren und Umformen

Sie liefern den Inhalt. Die KI ändert nur die Form. Geringes Risiko, weil die Fakten von Ihnen kamen.

• Unordentliche Notizen in eine saubere E-Mail verwandeln.
• Einen Absatz in Bulletpoints umwandeln.
• Eine schroffe Nachricht in wärmerem Ton neu schreiben.

Reformat these rough notes into a polite client email.
Do not add any facts I didn't provide:

- project delayed 1 week
- waiting on their logo files
- new delivery date March 12

Erste Entwürfe von allem

Ein leeres Blatt ist teuer. Ein Rohentwurf, den Sie korrigieren kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen, ist billig.

• Eine Stellenbeschreibung entwerfen, dann auf Richtigkeit prüfen.
• Eine Präsentation gliedern.
• Drei Optionen für die Betreffzeile eines Newsletters schreiben.

Brainstorming und Erklären

• „Gib mir 10 Blickwinkel für einen Blogpost über Remote Work."
• „Erklär mir, wie Zinseszins funktioniert, als wäre ich 15."

Wenn eine Brainstorming-Idee leicht daneben liegt, nutzen Sie sie einfach nicht. Kein Schaden entstanden.

Rotes Licht: vertrauen Sie dem Output nicht allein

Hier braucht es exakte Fakten, aktuelle Daten oder echte Verantwortung. Der Fehler des Anwalts gehört hierher.

Exakte Fakten und Zahlen

• Rechtszitate, medizinische Dosierungen, Steuerregeln, konkrete Statistiken.
• „Wie hoch war der exakte Umsatz von Apple in Q3 2024?"

Das Modell liefert vielleicht eine Zahl, die richtig aussieht und um Milliarden falsch ist.

Aktuelle oder Echtzeit-Informationen

Das Kernwissen eines Modells hat einen „training cutoff" (das Datum, an dem das eingebaute Wissen endet). Von sich aus kennt es die Nachrichten von heute nicht, die Preise von heute nicht und nicht, was heute Morgen passiert ist.

2026 kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen die meisten Tools (ChatGPT, Gemini, Claude) auf Anfrage das Web durchsuchen, was viel hilft. Aber „kann suchen" ist nicht „hat gesucht", und Suchergebnisse kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen immer noch falsch gelesen werden. Prüfen Sie immer den tatsächlichen Quellenlink.

Alles, wofür jemand verantwortlich ist

• Medizinische Ratschläge an einen Patienten senden.
• Offizielle Dokumente einreichen.
• Öffentliche Aussagen, für die Ihr Unternehmen einsteht.

Wenn ein Mensch dafür verantwortlich ist, dass es korrekt ist, muss ein Mensch es überprüfen.

Rechnen und präzises Zählen

Modelle sind besser geworden, aber sie stolpern weiter bei mehrstufiger Arithmetik. Für echte Berechnungen nehmen Sie einen Taschenrechner oder eine Tabelle, oder lassen Sie die KI Code schreiben, der die Rechnung macht, statt sie im Kopf zu erledigen.

Die gelbe Zone: überprüfen, nicht vertrauen

Die meiste echte Arbeit liegt hier. Der Trick ist, die Überprüfung schnell zu machen.

Ein guter Zug: Bitten Sie die KI, ihre Quellen zu zeigen, damit Sie sie prüfen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen.

Summarize the main causes of the 2008 financial crisis.
For each cause, give one specific source I can look up to verify it.

Dann klicken Sie die Quellen wirklich an. Wenn sie keine echte, prüfbare Quelle liefern kann, behandeln Sie die Aussage als ungeprüft.

Eine weitere Taktik: Lassen Sie sie ihre eigene Unsicherheit markieren.

Answer my question below. At the end, list any part of your
answer you are NOT confident about or could not verify.

Question: What are the visa requirements for a US citizen
traveling to Brazil in 2026?

Das fängt nicht alles ab, aber es bringt die riskantesten Aussagen an die Oberfläche, sodass Sie wissen, wo Sie nachsehen müssen.

Eine klare, kostenlose Einführung dazu, wie diese Systeme Text erzeugen (und warum sie Dinge erfinden), finden Sie in Googles Introduction to Large Language Models.

Ein echter Workflow: eine Kunden-E-Mail entwerfen

Kombinieren wir alles. Nehmen wir an, Sie müssen einem Kunden zur Rückgaberichtlinie schreiben.

Schritt 1 (Grün): Die Struktur entwerfen.

Draft a friendly email to a customer asking about our refund window.
Leave a [PLACEHOLDER] anywhere a specific policy detail should go.
Don't invent any policy numbers.

Beachten Sie die Anweisung: keine Details erfinden. Sie zwingen die KI, Lücken zu lassen statt zu raten. Die Lücken sind ehrlich. Eine erfundene „30-Tage-Regelung" ist gefährlich.

Schritt 2 (Rot, also machen Sie es selbst): Die Fakten einfüllen.

Sie sehen Ihre tatsächliche Rückgaberichtlinie nach und ersetzen jeden [PLACEHOLDER] selbst. Das ist der Teil mit echter Verantwortung, also übernimmt ihn ein Mensch.

Schritt 3 (Grün): Feinschliff.

Here's my completed email with real policy details.
Tighten the wording and keep the tone warm. Don't change any numbers.

Die KI hat die Schwerarbeit an der Sprache geleistet. Sie haben die Fakten verantwortet. Diese Arbeitsteilung ist der ganze Punkt.

Wenn KI leise von grün zu rot wechselt

Achten Sie auf die heimliche Verschiebung. Eine Aufgabe beginnt als harmloser Entwurf und rutscht in eine endgültige Antwort, ohne dass Sie es merken.

Sie bitten um einen „Entwurf" für einen Report, finden die Zahlen gut, kopieren sie in ein echtes Dokument und schicken es raus. Jetzt sind diese KI-generierten Zahlen eine endgültige, verantwortete Antwort, und niemand hat sie geprüft.

Die Lösung: Entscheiden Sie vorab, welche Teile entwerfbare Sprache sind und welche Teile Fakten, die Sie überprüfen müssen. Markieren Sie die Fakten. Lassen Sie nie eine ungeprüfte Zahl zu „final" aufsteigen.

Eine kurze mentale Checkliste

Bevor Sie etwas absenden, das KI angefasst hat:

1. Habe ich jeden konkreten Fakt, jede Zahl, jeden Namen und jedes Datum selbst ergänzt oder überprüft?

2. Habe ich die Quellenlinks angeklickt, die die KI mir gegeben hat?

3. Falls aktuelle Informationen nötig waren: Hat das Tool tatsächlich gesucht, und habe ich das Ergebnis geprüft?

4. Wäre mir wohl dabei, wenn ein Fehler hier meinen Namen trüge?

Wenn eine Antwort „nein" lautet, sind Sie nicht fertig.

Wichtigste Erkenntnisse

• Stellen Sie zwei Fragen, bevor Sie einem KI-Output vertrauen: Ist es ein Entwurf oder eine endgültige Antwort, und kann ich es schnell überprüfen? Entwürfe und überprüfbare Aufgaben sind grün. Schwer überprüfbare endgültige Antworten sind rot.
• Grünes Licht: Umformatieren, erste Entwürfe, Brainstorming, Erklären. Das Risiko ist gering, weil Sie die Fakten liefern und kontrollieren.
• Rotes Licht: exakte Fakten, aktuelle Daten, präzises Rechnen und alles, wofür ein Mensch verantwortlich ist. Das überprüfen Sie selbst, jedes Mal.
• Machen Sie die Überprüfung schnell: bitten Sie die KI um prüfbare Quellen, lassen Sie sie unsichere Aussagen markieren und weisen Sie sie an, [PLACEHOLDER]-Marker zu setzen statt zu raten.
• Achten Sie auf den stillen Wechsel von Entwurf zu Final. In dem Moment, in dem eine ungeprüfte KI-Zahl in einem Dokument landet, das Sie verschicken, wurde sie Ihre verantwortete Antwort. Überprüfen Sie, bevor sie aufsteigt.