Die Pre-Deployment-Checkliste, bevor KI einen Kunden berührt

# Die Pre-Deployment-Checkliste, bevor KI einen Kunden berührt

Drei Wochen vor dem Launch wird es still im Raum. Ein Creative Director eines europäischen Maison stellt dem AI Product Lead eine Frage: „Wenn dieser Styling-Assistent einen Look empfiehlt, der eine Kundin beleidigt, wer fängt das ab, bevor sie es sieht?" Niemand hat bislang eine saubere Antwort. Der Launch wird gestoppt.

Diese Szene wiederholt sich im Luxussegment häufiger, als Marken zugeben. Ein Go/No-Go-Review, also das formale Gate, an dem die Stakeholder entscheiden, ob ein System für echte Kunden bereit ist, ist der Punkt, an dem gute Absichten auf die operative Realität treffen. Diese Lektion zeigt, was dieses Review tatsächlich prüfen sollte.

Warum Luxus eine eigene Checkliste braucht

Luxus-KI trägt Risiken, die generische Retail-KI nicht hat. Ein kundenseitiger Chatbot, der einen Pullover falsch bepreist, ist peinlich. Ein Styling-Assistent, der auf Basis von Name oder Adresse Annahmen über KKDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →örper, Herkunft oder Budget einer Kundin trifft, ist eine Markenkrise und in Europa ein potenzieller Verstoß gegen den EU AI Act (die risikobasierte KI-Regulierung der Europäischen Union, seit 2024 in Kraft mit gestaffelten Pflichten bis 2027).

Der EU AI Act klassifiziert Systeme nach Risiko. Die meiste kundenseitige Luxus-KI (Styling-Beratung, Personal Shopping, Größenempfehlungen) fällt in die Stufe „limited risk" oder „minimal risk", aber alles, was biometrische Kategorisierung oder Emotionserkennung berührt (etwa ein Smart Mirror, der Stimmung oder Ethnie ableitet, um den Pitch anzupassen), kann „high-risk"-Pflichten auslösen: dokumentiertes Risikomanagement, menschliche Aufsicht und technische Dokumentation, die Regulatoren zugänglich ist. Volltext: EU AI Act overview, European Commission.

In den USA gibt es Stand Anfang 2026 noch kein einheitliches Bundesgesetz zu KI. Stattdessen stehen Luxusmarken vor einem Flickenteppich: die FTC (Federal Trade Commission), die gegen „unfaire oder irreführende" KI-Praktiken vorgeht, Landesgesetze wie der AI Act von Colorado (wirksam ab 2026, adressiert „high-risk" folgenschwere Entscheidungen) und die verschiedenen kalifornischen Regeln zu KI-Transparenz und automatisierter Entscheidungsfindung. Ein Maison, das in beiden Märkten operiert, braucht ein Governance-Framework, das dem strengeren Regime genügt, in der Regel dem der EU.

Die fünf Checks, die am meisten zählen

1. Bias-Testing

Bias-Testing bedeutet, systematisch zu prüfen, ob die Outputs eines Modells über geschützte oder sensible Gruppen hinweg (Geschlecht, aus dem Namen abgeleitete Ethnie, KKDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →örpergröße, Geografie) unfair abweichen.

Für einen Styling-Assistenten heißt das: dasselbe Kundenprofil durch das Modell laufen lassen und nur eine Variable ändern, etwa einen Namen, der typischerweise mit einer anderen Ethnie assoziiert wird, und die Empfehlungen vergleichen. Werden höhere Luxus-Tiers seltener vorgeschlagen? Verschiebt sich die Sprache in Ton oder Formalität?

Ein einfaches Test-Harness:

test_profiles = [
    {"name": "Amara Okafor", "budget": 5000, "occasion": "gala"},
    {"name": "Charlotte Dubois", "budget": 5000, "occasion": "gala"},
]

for profile in test_profiles:
    response = styling_model.recommend(profile)
    log_response(profile["name"], response.tier, response.tone_score)

Führen Sie das über hunderte Profilpaare vor dem Launch durch, nicht nach einer Kundenbeschwerde. Dokumentieren Sie die Ergebnisse. Genau diese Dokumentation erwartet der EU AI Act für High-Risk-Systeme, und sie ist gute Praxis, auch wenn das System formal nicht high-risk ist.

2. Eskalationspfade

Ein Eskalationspfad ist der vordefinierte Weg, den ein markierter Fall zu einem Menschen nimmt. Vor dem Launch muss das Review beantworten: was löst eine Eskalation aus, und wer erhält sie?

Konkretes Beispiel: Fragt eine Kundin den Styling-Assistenten nach einem Trauer-Outfit oder erwähnt sie eine medizinische Bedingung, die die Passform betrifft, sollte das System die autonome Beratung stoppen und innerhalb eines definierten Zeitfensters an einen menschlichen Client Advisor weiterleiten (viele Maisons zielen bei VIP-Tiers auf unter 15 Minuten). Testen Sie diesen Pfad mit simulierten Edge Cases vor dem Go-Live, nicht während.

3. Human-Override-Punkte

Ein Human-Override-Punkt ist eine Stelle im Workflow, an der ein Mensch den Output der KI stoppen, korrigieren oder blockieren kann, bevor der Kunde ihn sieht. Für kundenseitige Luxus-KI ist die Branchennorm, die sich 2026 herausbildet, „human-in-the-loop" für alles, was finale Kaufempfehlungen oberhalb einer Preisschwelle betrifft, und „human-on-the-loop" (Monitoring, kein Gating) für Vorschläge mit geringerem Einsatz wie Accessoire-Kombinationen.

Das Go/No-Go-Review sollte einen Walkthrough erzwingen: Zeigen Sie mir live, wo ein Stylist eine schlechte Empfehlung abfangen kann, bevor sie in der Kunden-App landet. Wenn das niemand im Raum demonstrieren kann, ist das ein No-Go.

4. Brand-Voice-Audit

Ein Brand-Voice-Audit prüft, ob KI-generierte Sprache zu Ton, Register und Werten des Maison passt, nicht nur zur faktischen Korrektheit. Das ist etwas anderes als Bias-Testing: Eine technisch unvoreingenommene Antwort kann für ein Haus, das für Zurückhaltung bekannt ist, dennoch falsch klingen, oder zu locker für ein Haus, das auf Formalität aufbaut.

Praktisch heißt das: Ein Panel (oft Merchandising plus Brand plus ein Language-Model-Evaluator) bewertet ein Sample von 100 bis 200 generierten Antworten anhand einer Rubrik: Formalität, kulturelle Sensibilität, hausspezifisches Vokabular, keine Wettbewerbernennungen. Alles unterhalb der Schwelle wird nachtrainiert oder mit Guardrail-Prompts hart gesetzt.

5. Data LineageData LineageData Lineage zeigt, wie Daten sich durch Systeme bewegen und dabei transformiert werden, von der Quelle bis zur Nutzung: woher sie kommen, was sie verändert hat und wohin sie gehen.Vollständige Definition ansehen →

Data LineageData LineageData Lineage zeigt, wie Daten sich durch Systeme bewegen und dabei transformiert werden, von der Quelle bis zur Nutzung: woher sie kommen, was sie verändert hat und wohin sie gehen.Vollständige Definition ansehen → ist der dokumentierte Nachweis, woher Trainings- und Input-Daten stammen, wie sie verarbeitet wurden und wer Rechte daran hat. Für Luxus zählt das doppelt: Die Kaufhistorie von Kunden ist unter GDPR (General Data Protection Regulation, das EU-Datenschutzrecht) höchst sensibles personenbezogenes Datum, und jegliches Bild- oder Style-Material, das aus Runway-Shows oder Editorial-Content gescrapt wurde, kann Urheberrechtsrisiken tragen.

Das Review muss bestätigen: Werden Kundendaten zum Training dieses Modells genutzt, und haben die Kunden dieser spezifischen Nutzung nach GDPR Artikel 6 (Rechtsgrundlage der Verarbeitung) zugestimmt? Ist die Antwort unklar, ist das allein Grund für eine Verzögerung. Siehe die ICO's guidance on AI and data protection für ein praktisches Framework, sinngemäß auch außerhalb Großbritanniens anwendbar.

Wie ein Go/No-Go-Review tatsächlich aussieht

In der Praxis ist das ein einstündiges Meeting mit schriftlicher Scorecard, kein Bauchgefühl-Check. Eine realistische Struktur:

| Check | Owner | Status 3 Wochen vorher | Blockierend? |

|---|---|---|---|

| Bias-Testing über 5 sensible Attribute | Data Science | Gelb, 2 Attribute ungetestet | Ja |

| Eskalationspfad end-to-end getestet | Client Experience | Grün | Nein |

| Human Override live demonstriert | Product | Rot, keine Demo verfügbar | Ja |

| Brand-Voice-Audit, 150 Samples bewertet | Brand/Marketing | Grün | Nein |

| Data LineageData LineageData Lineage zeigt, wie Daten sich durch Systeme bewegen und dabei transformiert werden, von der Quelle bis zur Nutzung: woher sie kommen, was sie verändert hat und wohin sie gehen.Vollständige Definition ansehen → dokumentiert, Consent bestätigt | Legal/Privacy | Gelb, warten auf DPO-Freigabe | Ja |

Drei „blockierende" Rot- oder Gelbmeldungen bedeuten No-Go, Punkt, unabhängig von Marketing-Timelines. Die Scorecard zwingt den Raum, „wir freuen uns auf den Launch" von „wir sind bereit für den Launch" zu trennen.

🎬 [VIDEO: "AI Governance Explained: How Companies Manage AI Risk" - youtube.com - ein klarer Walkthrough von Enterprise-AI-Risk-Frameworks, anwendbar auf kundenseitige Deployments]

Modellrisiko jenseits der fünf Checks

Zwei breitere Kategorien von Modellrisiko verdienen eine Erwähnung, weil sie in Luxus-KI-Deployments wiederkehren:

Drift: Die Outputs eines Modells verschlechtern sich oder verschieben sich über Zeit, wenn sich Kundenverhalten, Inventar oder Saisonkollektionen ändern. Ein Styling-Modell, das auf dem Line-up der letzten Saison trainiert wurde, empfiehlt eingestellte Stücke möglicherweise mit voller Überzeugung. Luxushäuser sollten eine quartalsweise Re-Validierung einplanen, nicht nur eine zum Launch.

Halluzination in generativen Outputs: Text- oder Bildgenerierungsmodelle kkDie durchschnittliche Zahl neuer Nutzer, die jeder bestehende Nutzer über Empfehlungen generiert. Über 1,0 verstärkt sich das Wachstum selbst und wird exponentiell.Vollständige Definition ansehen →önnen Produktdetails, Preise oder Verfügbarkeiten erfinden, die nicht existieren. Für ein Maison ist eine halluzinierte Aussage zur Materialzusammensetzung („das ist handbestickte Seide"), wenn sie es nicht ist, sowohl ein Marken- als auch ein Verbraucherschutzproblem. Output-Validierung gegen eine Live-Produktdatenbank, geprüft vor der Anzeige, ist die Standardmaßnahme.

Key Takeaways

• Ein Go/No-Go-Review braucht eine schriftliche Scorecard mit benannten Ownern, keine allgemeine Diskussion; unklare Antworten zu Bias, Override oder Datenzustimmung sollten den Launch blockieren.
• Bias-Testing muss gepaarte Profilvergleiche nutzen (dieselbe Anfrage, eine sensible Variable geändert) und dokumentiert werden, diese Dokumentation erfüllt auch die entstehenden Erwartungen des EU AI Act.
• Human-Override-Punkte müssen vor dem Launch live demonstriert werden, nicht als vorhanden angenommen; „human-in-the-loop" für hochwertige Empfehlungen wird 2026 zur Branchennorm.
• Data LineageData LineageData Lineage zeigt, wie Daten sich durch Systeme bewegen und dabei transformiert werden, von der Quelle bis zur Nutzung: woher sie kommen, was sie verändert hat und wohin sie gehen.Vollständige Definition ansehen → und GDPR-Consent für alle im Training genutzten Kundendaten sind rechtliche Voraussetzungen, kein optionales Extra, besonders für Marken mit EU-Bezug.
• Modellrisiko endet nicht beim Launch: Planen Sie wiederkehrende Bias-Checks, Drift-Monitoring und Halluzinations-Validierung gegen Live-Produktdaten ein.