Kanzleien · Warum Ihr Modell auf eine Weise falsch liegt, die Sie nicht sehen

Ein Junior Associate in einer mittelgroßen Kanzlei bittet einen juristischen KI-Assistenten, die Freistellungsklauseln aus 40 Lieferantenverträgen zusammenzufassen. Das Tool liefert eine saubere, selbstbewusste Zusammenfassung. Keine erfundenen Fundstellen, keine halluzinierten Gesetze, nichts, was bei einer Halluzinationsprüfung auffallen würde. Sie ist schlicht falsch: Das Tool klassifiziert „wechselseitige Freistellung