Audit von Drittanbieter-KI im FMCG-Tech-Stack

# Audit von Drittanbieter-KI im FMCG-Tech-Stack

Ein SaaS-Tool für Category Management erklärt einer Getränkemarke, seine Empfehlungen zur Regalpreisgestaltung beruhten auf „proprietärer KI, trainiert auf Ihren Daten". Achtzehn Monate später fällt der Category Managerin der Marke auf, dass das Tool Preise in Richtung von Werten schiebt, die verdächtig nah an der tatsächlichen Strategie eines direkten Wettbewerbers liegen, den der Vendor ebenfalls betreut. Eine interne Prüfung ergibt: Das Modell wurde auf einem gepoolten Datensatz über alle Kunden hinweg nachtrainiert, Wettbewerber inklusive. Nichts Illegales ist passiert. Offengelegt wurde aber auch nichts. Genau dieses Szenario sollte jedes FMCG-Procurement- und Legal-Team dazu bringen, Vendor-Verträge vor der nächsten Verlängerung anders zu lesen.

Diese Lektion gibt Ihnen eine praktikable Audit-Routine an die Hand: was Sie vertraglich verlangen müssen, welche Dokumentation belegt, dass ein Modell weiterlaufen darf, und welche Red Flags einen Absprung rechtfertigen.

Warum FMCG besonders exponiert ist

FMCG-Unternehmen bauen KI selten im großen Stil selbst. Sie kaufen sie ein: Demand Forecasting von einem Supply-Chain-SaaS, Dynamic PricingDynamic PricingAutomatically adjusting prices in real time based on demand, competition or user behaviour to optimise revenue, margin or conversion.Vollständige Definition ansehen → von einer Category-Management-Plattform, Chatbots für Consumer Engagement, Bilderkennung für Regal-Audits, generative KI für Ad Copy und Verpackungsdesign.

Jeder dieser Vendoren berührt sensible Daten: Sell-through-Zahlen der Händler, Trade-Promotion-Budgets, Consumer PII (personally identifiable information) aus Loyalty-Apps und manchmal Wettbewerbsinformationen, die beiläufig über geteilte Retail-Datenfeeds anfallen.

Das Risiko ist nicht nur Datenabfluss. Es ist Model Contamination: Das Modell eines Vendors lernt Muster aus den Daten von Kunde A, und dieses Gelernte kommt über die geteilte Infrastruktur klammheimlich Kunde B zugute, einem direkten Wettbewerber. Anders als bei einem Datenleck löst das selten eine Meldepflicht aus, weil technisch gesehen kein Datensatz „offengelegt" wurde. Es ist eine Governance-Lücke, (meist) kein Rechtsverstoß, und genau deshalb müssen Verträge sie ausdrücklich schließen.

Was Sie vor der Verlängerung abklopfen sollten

1. Data LineageData LineageData lineage maps how data moves and transforms across systems, from origin to consumption, showing where it came from, what changed it, and where it goes.Vollständige Definition ansehen → und Trainingsrechte

Fragen Sie den Vendor direkt: Werden unsere Daten genutzt, um Modelle zu trainieren, zu fine-tunen oder zu verbessern, die auch andere Kunden nutzen? Lassen Sie sich das schriftlich geben, nicht im Sales Call.

Achten Sie auf Vertragsformulierungen, die unterscheiden zwischen:

• Input-Daten (was Sie hochladen: Abverkaufsdaten, Planogramme, Consumer-Daten)
• Output-Daten (die Empfehlungen des Modells)
• Abgeleiteten Daten / Model Weights (ob Ihr Input ein Modell prägt, das auch andere Kunden nutzen)

Ein sauberer Vertrag legt fest, dass Training auf Ihren Daten zugunsten anderer Kunden ein explizites Opt-in erfordert, kein in einem Terms-Update vergrabenes Opt-out.

2. Modelldokumentation („Model Cards")

Verlangen Sie eine Model Card: ein kurzes technisches Dokument, das beschreibt, worauf das Modell trainiert wurde, wofür es gedacht ist, welche bekannten Grenzen es hat und wie oft es aktualisiert wird. Das ist bei verantwortungsvollen KI-Anbietern inzwischen Standard und wird ausdrücklich vom AI Risk Management Framework des NIST empfohlen, dem freiwilligen, aber weit verbreiteten US-Standard für KI-Governance.

Kann ein Vendor keine Model Card liefern, behandeln Sie das als Governance-Red-Flag, nicht als technische Unannehmlichkeit.

3. Retraining-Frequenz und Change Logs

Fragen Sie: Wie oft wird das zugrunde liegende Modell nachtrainiert, und werden wir benachrichtigt, wenn es sich wesentlich ändert? Ein Pricing-Modell, das monatlich auf gepoolten Marktdaten nachtrainiert wird, kann seine Empfehlungslogik verschieben, ohne dass sich bei Ihnen eine Zeile Code ändert. Sie brauchen ein Changelog, genauso wie Sie es bei Patches für Enterprise-Software erwarten würden.

4. Offenlegung von Sub-Processors

Die meisten SaaS-Anbieter bauen keine eigenen Foundation Models. Sie rufen OpenAI, Anthropic, Google oder ein Open-Weight-Modell über Cloud-Infrastruktur auf. Fragen Sie, welche Modelle das Tool antreiben und ob Ihre Daten durch die APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen → eines Dritten laufen (und zu welchen Aufbewahrungsbedingungen). Die DSGVO (Datenschutz-Grundverordnung) verlangt die Offenlegung von Sub-Processors, die personenbezogene Daten verarbeiten; wenden Sie dieselbe Disziplin auf nicht-personenbezogene, aber kommerziell sensible Daten an.

5. Auditrecht und Exit-Recht

Verträge sollten enthalten:

• Ein Recht, ein Audit oder eine Attestierung durch Dritte zu verlangen (SOC 2 Type II ist verbreitet und überprüfbar)
• Eine Klausel zu Datenportabilität und Löschung bei Vertragsende, einschließlich Löschung aus jedem Trainingskorpus, nicht nur aus aktiven Datenbanken
• Eine klare Haftungszuordnung, falls der Modell-Output kommerziellen Schaden verursacht (Fehlbepreisung, diskriminierendes Targeting, verzerrte Demand Forecasts)

Regulatorischer Hintergrund, den Sie kennen sollten

Sie auditieren nicht im luftleeren Raum. Mehrere Frameworks prägen inzwischen, was als „gut genug" gilt:

• EU AI Act (2024 in Kraft getreten, gestaffelte Pflichten bis 2027): klassifiziert KI-Systeme nach Risikostufen. Die meisten FMCG-Anwendungsfälle (Pricing, Forecasting, Marketing-Personalisierung) fallen unter „begrenztes Risiko" oder sind nicht direkt reguliert, aber jedes System, das folgenreiche automatisierte Entscheidungen über Personen trifft (kreditähnliches Consumer Scoring, beschäftigungsnahe Anwendungen), kann höhere Pflichten auslösen. Durchgesetzt von nationalen Behörden, koordiniert über die Europäische Kommission.
• DSGVO: nach wie vor das folgenreichste Gesetz für FMCG-KI-Anbieter, die EU-Consumer-Daten verarbeiten, besonders die Einschränkungen aus Artikel 22 zu ausschließlich automatisierten Entscheidungen mit rechtlicher oder erheblicher Wirkung.
• US FTC (Federal Trade Commission): ist gegen „AI Washing" (Übertreibung von KI-Fähigkeiten) vorgegangen sowie gegen Unternehmen, die Consumer-Daten still für Modelltraining jenseits des angegebenen Zwecks weiterverwendet haben, gestützt auf Section 5 des FTC Act (unfaire oder täuschende Praktiken).
• NIST AI RMF: in den USA freiwillig, wird aber zunehmend als Referenzstandard in Due-Diligence-Fragebögen für Vendoren genutzt, selbst von Unternehmen ohne US-Regulierungspflicht.

Keines dieser Gesetze sagt ausdrücklich: „Cross-Client-Modelltraining in FMCG-Pricing-Tools muss offengelegt werden." Genau diese Lücke ist der Grund, warum Vertragsformulierungen, nicht Gesetze, heute Ihr wichtigster Hebel sind.

Eine minimale Audit-Checkliste

Gehen Sie vor der Verlängerung diese Punkte mit dem Vendor durch:

[ ] Model card provided and current (training data description, last update date)
[ ] Written confirmation: is our data used in models shared across clients?
[ ] Sub-processor / underlying foundation model disclosed
[ ] SOC 2 Type II or equivalent attestation available
[ ] Retraining cadence and change notification process defined
[ ] Data deletion clause covers training corpora, not just live databases
[ ] Liability clause covers harm from model output (pricing error, biased forecast)
[ ] Audit or inspection right included in contract

Sind mehr als zwei KKThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →ästchen leer, eskalieren Sie vor der Verlängerung an Legal, nicht danach.

Wie „gut" aussieht: ein Signal aus der Praxis

Große Händler und CPG-Unternehmen (consumer packaged goods) verlangen zunehmend, dass Vendoren standardisierte KI-Due-Diligence-Fragebögen ausfüllen, die an Frameworks wie das des NIST angelehnt sind. Manche Enterprise-Software-KKThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →äufer fordern inzwischen, dass Vendoren an Model-Auditing-Diensten Dritter teilnehmen (eine wachsende, aber noch fragmentierte Nische, mit Anbietern für Bias-Testing und Data-Lineage-Tracing). In diese Richtung bewegt sich Procurement: KI-Vendor-Risiko so behandeln wie Cybersecurity-Vendor-Risiko, mit wiederkehrenden Audits statt einer einmaligen Unterschrift.

🎬 [VIDEO: "How to Audit Third-Party AI Vendors" - youtube.com - suchen Sie nach aktuellen (2024-2025) Erklärvideos zu AI Governance und Vendor Risk Management von Enterprise-Risk- oder Compliance-Kanälen, hilfreich für einen praktischen Durchgang durch Vendor-Fragebögen und Audit-Checklisten]

Wichtigste Erkenntnisse

• Cross-Client Model Contamination (Ihre Daten verbessern die Outputs eines Wettbewerbers) ist eine Governance-Lücke, in der Regel kein Datenleck, und muss deshalb über explizite Vertragsformulierungen geschlossen werden, nicht per Annahme.
• Verlangen Sie vor jeder Verlängerung eine Model Card, die Offenlegung der Sub-Processors und Retraining-Change-Logs; behandeln Sie ihr Fehlen als Red Flag wie eine fehlende SOC-2-Attestierung.
• Unterscheiden Sie in Verträgen zwischen Input-Daten, Output-Daten und Model Weights; „wir verkaufen Ihre Daten nicht" heißt nicht „wir trainieren nicht auf Ihren Daten".
• Regulatorische Frameworks (EU AI Act, DSGVO, FTC-Durchsetzung, NIST AI RMF) liefern das Grundvokabular, aber bei FMCG-Pricing- und Forecasting-Tools leisten Vertragsklauseln derzeit mehr Governance-Arbeit als Gesetze.
• Verankern Sie ein wiederkehrendes KI-Vendor-Audit in Ihren Procurement-Zyklen, in derselben Taktung und Strenge wie Ihre bestehenden Cybersecurity-Vendor-Reviews.