Wie JPMorgan Chase menschliche Kontrolle in seine KI-Agenten-Workflows eingebaut hat

2023 verarbeitete JPMorgan Chase jährlich hunderttausende gewerbliche Kreditverträge mit dem eigenen Vertragsanalysesystem COiN (Contract Intelligence). Das System lief seit 2017 und konnte Dokumente in Sekunden prüfen, für die Anwälte zuvor 360.000 Stunden pro Jahr gebraucht hatten. Als das Haus seine KI-Fähigkeiten in stärker agentisches Terrain ausweitete, also nicht mehr nur Klassifizierung, sondern mehrstufige Reasoning-Aufgaben in Trading, Risk und Compliance, stieß es auf ein Problem, das reine Automatisierung überdeckt hatte: Wenn ein KI-Agent eine Folge von Entscheidungen ohne Human in the Loop trifft, summiert sich die Fehleroberfläche mit jedem Schritt. Eine einzelne Fehlklassifizierung in einer linearen PipelinePipelineAll active sales opportunities across the stages of the sales process, together with their combined potential value and probability of closing.Vollständige Definition ansehen → lässt sich korrigieren. Eine Kette plausibel aussehender, aber falscher Schlüsse in einem Agenten-Workflow kann einen Punkt ohne Rückkehr erreichen, bevor es überhaupt jemandem auffällt.

Dieses Spannungsfeld zwischen Durchsatz und Auditierbarkeit zwang die KI-Teams von JPMorgan dazu, gezielt darüber nachzudenken, wo menschliches Urteil tatsächlich Wert schafft und wo es nur Latenz erzeugt.

Was sie getan haben

Die Antwort der Bank war nicht, den Agenten-Rollout zurückzufahren. Sie war, die Architektur der menschlichen Beteiligung neu zu entwerfen. Mehrere Schritte sind in öffentlichen Aussagen von Teresa Heitsenrether, Chief Data and Analytics Officer der Bank, sowie in regulatorischen Einreichungen und Konferenzvorträgen aus 2024 und 2025 gut dokumentiert.

Erstens führte JPMorgan ein, was interne Teams „confidence thresholds with mandatory escalation" nannten. Agenten in Bereichen mit hohem Risiko, besonders überall dort, wo es um Empfehlungen zur Trade-Ausführung oder um regulatorische Dokumentation ging, mussten Ergebnisse unterhalb eines definierten Confidence Score an einen menschlichen Reviewer melden, bevor der Workflow weiterlaufen durfte. Das ist im ML Engineering keine neue Idee, aber das entscheidende Implementierungsdetail war: Der Schwellenwert wurde nicht vom KI-Team allein festgelegt. Compliance-Verantwortliche und Bereichsleiter setzten die Schwellenwerte gemeinsam, was ein Gespräch über Risikotoleranz erzwang, das das Technologieteam für sich allein nicht hätte führen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen.

Zweitens bauten sie explizite „Pause Points" in mehrstufige Agentenketten ein, statt durchgehend autonome Läufe zuzulassen. In einem Workflow aus Marktdaten-Ingestion, Risk Scoring und Report-Erstellung schloss der Agent jede Stufe ab und legte einem festgelegten menschlichen Reviewer eine strukturierte Zusammenfassung vor, bevor es weiterging. Der Reviewer hatte ein definiertes Zeitfenster, um den nächsten Schritt freizugeben, zu ändern oder zu stoppen. Das unterscheidet sich von nachgelagertem Auditing: Der Mensch ist im Workflow, nicht nur Beobachter des Logs.

Drittens, und darüber wird weniger gesprochen, standardisierte JPMorgan das Format, in dem Agenten ihr Reasoning offenlegen. Statt ein Ergebnis mit Confidence Score zu präsentieren, mussten Agenten die drei bis fünf wichtigsten Faktoren hinter einer Entscheidung in einfacher Sprache ausgeben, zusammen mit der empfohlenen MaMaUsing software to automate repetitive marketing tasks and campaigns, enabling personalisation at scale across channels like email, web, and social.Vollständige Definition ansehen →ßnahme. Das machte das Eingreifen der Reviewer schneller und präziser. Wer liest „Vertragsklausel markiert, weil sie beim Umfang der Freistellung vom Template abweicht, konkret bei der Ausnahme für grobe Fahrlässigkeit", entscheidet schneller und besser als jemand, der nur „markiert, Score 0,62" liest.

Die Bank investierte außerdem in Training. Nicht KI-Training, sondern Training für Menschen. Die Reviewer im Loop erhielten strukturierte Protokolle dazu, worauf sie achten sollen, wie viel Zeit sie pro Prüfung aufwenden (um Abnicken zu verhindern) und wie sie Abweichungen von den Agenten-Ergebnissen so dokumentieren, dass sie in die Verbesserungszyklen der Modelle zurückfließen.

Die Ergebnisse

JPMorgan hat keine umfassende Vorher-Nachher-Studie zur Neugestaltung der Agenten-Aufsicht veröffentlicht, deshalb sind die Zahlen hier entsprechend einzuordnen. Was die Bank öffentlich gemacht hat: COiN und die Nachfolgesysteme haben die Zeit für Dokumentenprüfung gegenüber der Ausgangslage drastisch reduziert (die Zahl von 360.000 Stunden für die Prüfung von Kreditdokumenten ist aus frühen Berichten gut belegt). Heitsenrether erklärte 2024 auf einer Branchenveranstaltung, die Bank habe über 400 KI-Anwendungsfälle in Produktion, davon einen erheblichen Anteil mit mehrstufigem Agentenverhalten statt einfacher Klassifizierung in einem Durchgang.

Zur Aufsichtsarchitektur selbst berichtete die Bank gegenüber Regulatoren und in interner Kommunikation (Teile davon tauchten in der Fachpresse auf), dass das verpflichtende Eskalationssystem einen spürbaren Effekt darauf hatte, wie viele Fehler vor Auswirkungen weiter unten im Prozess abgefangen wurden. Die konkreten Fangquoten sind nicht veröffentlicht, und jede Zahl, die ohne Primärquelle zirkuliert, sollte mit Skepsis behandelt werden.

Was überprüfbar ist: Die KI-bezogenen Compliance-Vorfälle bei JPMorgan stiegen im Zeitraum 2023 bis 2025 nicht proportional zum Umfang des KI-Einsatzes, was bemerkenswert ist, weil vergleichbare Institute mit Agenten in ähnlichen Bereichen in den Fokus der Aufsicht gerieten. Das Office of the Comptroller of the Currency veröffentlichte 2024 Leitlinien zur KI-Governance im Bankwesen, zu denen der Ansatz von JPMorgan weitgehend passte, ohne nachträglich angepasst werden zu müssen.

Was übertragbar ist

Der Fall JPMorgan ist gerade deshalb lehrreich, weil die Organisation über Ressourcen verfügte, die die meisten nicht haben. Tausende Technologen, eigenes Personal für KI-Governance und ein regulatorisches Umfeld, das gutes Verhalten praktisch erzwang. Die meisten Organisationen, die 2026 Agenten einsetzen, arbeiten mit kleineren Teams und weicheren Guardrails. Die Lehren gelten trotzdem, aber die Übertragung braucht Anpassung.

Das Modell aus Confidence Threshold plus Eskalation funktioniert in jeder Größenordnung. Was sich ändert, ist, wer die Schwellenwerte festlegt. In einer Professional-Services-Firma mit 50 Leuten muss dieses Gespräch immer noch zwischen der Person geführt werden, die für die Qualität der Ergebnisse verantwortlich ist, und der Person, die für die Technologie verantwortlich ist. Wer es überspringt, nimmt standardmäßig hin, was der Anbieter oder der Entwickler entschieden hat, und das ist keine Entscheidung über Risikotoleranz, sondern deren Abwälzung.

Die Pause-Point-Architektur erfordert in ressourcenknappen Umgebungen mehr Überlegung. Wenn Ihr Reviewer gleichzeitig drei andere Workstreams betreut, wird ein verpflichtendes Prüffenster von vier Stunden zum Engpass, um den das Geschäft herum arbeitet. Legen Sie den Umfang der Agenten-Autonomie nach der realistischen Kapazität für menschliche Prüfung aus, nicht nach der theoretischen.

Die Ausgabe des Reasonings in einfacher Sprache ist wahrscheinlich die am besten übertragbare Maßnahme überhaupt. Welche Plattform Sie zur Orchestrierung von Agenten nutzen, ob Microsoft Copilot Studio, Salesforce Agentforce (ein Anbieterprodukt, mit der entsprechenden kommerziellen Rahmung) oder ein eigener LangChain-Build: Prompt-Design und Output-SchemaSchemaA schema is the formal blueprint that defines how data is structured, named, typed, and related within a database, file, or message.Vollständige Definition ansehen → sollten verlangen, dass der Agent sein Reasoning so offenlegt, dass ein nicht-technischer Reviewer damit handeln kann. Eine Zahl reicht nicht.

Schließlich wird die Investition von JPMorgan in das Training der Reviewer von Organisationen durchweg unterschätzt, die Aufsicht als Prozessproblem statt als Kompetenzproblem behandeln. Eine Checkliste ersetzt keinen Reviewer, der versteht, was ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → vor sich hat.

Der Kern ist einfach: Menschliche Kontrolle in Agenten-Workflows ist eine Architekturentscheidung, kein Policy-Statement. Sie muss vor dem Rollout ins System eingebaut werden, denn sie später hinzuzufügen bedeutet, Workflows umzubauen, um die sich das Geschäft schon organisiert hat.