Consent, Zweckbindung und die Falle der AI-Features

# Consent, Zweckbindung und die Falle der AI-Features

Ende 2023 änderte Zoom still und leise seine Nutzungsbedingungen, sodass Kundeninhalte AI-Modelle trainieren kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnten, und ruderte innerhalb weniger Tage nach sichtbarem Protest der Nutzer zurück. Der Vorfall wurde zum Lehrbuchfall: Ein SaaS-Unternehmen hatte einen Berg an Kundendaten direkt vor sich liegen, ein neues AI-Feature zu bauen und keinen sauberen rechtlichen Weg, das eine für das andere zu nutzen. Genau in dieser Lücke zwischen „wir haben die Daten“ und „wir dürfen die Daten nutzen“ brechen die meisten AI-Copilot-Projekte still das Gesetz.

Die Falle, definiert

Support-Tickets, Chatverläufe und Nutzungsdaten werden in der Regel zu einem Zweck erhoben: das Produkt zu betreiben und dem Kunden zu helfen. Das ist die Rechtsgrundlage, über die Sie die Nutzer bei der Registrierung informiert haben.

Das Training eines AI-Copiloten ist ein anderer Zweck. Unter der DSGVO (Datenschutz-Grundverordnung, das zentrale europäische Datenschutzgesetz) greift damit die Zweckbindung, also der Grundsatz, dass personenbezogene Daten, die für einen festgelegten Zweck erhoben wurden, ohne neue Rechtsgrundlage nicht für einen unvereinbaren neuen Zweck weiterverwendet werden dürfen (siehe DSGVO Artikel 5(1)(b)).

Support-Tickets sind besonders riskant, weil sie häufig enthalten:

• Namen, E-Mail-Adressen, Accountdaten (standardmäßig personenbezogene Daten)
• Eingefügte Screenshots oder Logs mit Kundengeheimnissen, APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen →-Keys oder PII (personally identifiable information) von Endnutzern
• Sensible Beschwerden (Gesundheit, Finanzen, HR-Themen), wenn Ihr SaaS diese Branchen bedient

Diesen Korpus in ein Fine-tuningFine-tuningFine-tuning adapts a pre-trained model to a specific task or domain by continuing training on a smaller, targeted dataset, improving accuracy and style for that use case.Vollständige Definition ansehen → eines Large Language ModelLarge Language ModelA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen → (LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →) zu geben oder ihn auch nur für Retrieval-Augmented Generation (RAG, bei der ein Modell zur Beantwortung von Fragen live Snippets aus einer Datenbank zieht) zu nutzen, ist ein neuer Verarbeitungszweck. Wenn Ihre ursprüngliche Datenschutzerklärung „zur Erbringung des Kundensupports“ sagte, haben Sie vermutlich keine Rechtsgrundlage, zusätzlich „zum Training unserer AI-Features“ zu sagen.

Warum das nicht nur ein EU-Problem ist

US-Unternehmen nehmen oft an, das sei ein rein europäisches Problem. Ist es nicht.

• Die FTC (Federal Trade Commission) hat Unternehmen ausdrücklich davor gewarnt, Bedingungen „still“ zu ändern, um AI-Training auf zuvor erhobenen Daten zu erlauben, und bezeichnet das als potenziell unfaire oder täuschende Praxis nach Section 5 des FTC Act. Ihr Blogbeitrag von 2024 dazu ist eine brauchbare Einführung: FTC: AI (In)security.
• Kaliforniens CCPA/CPRA (California Consumer Privacy Act, geändert durch den California Privacy Rights Act) gibt Nutzern das Recht, die Nutzung sensibler personenbezogener Daten einzuschränken, und verlangt die Offenlegung neuer Verarbeitungszwecke.
• Branchenregeln kommen obendrauf: HIPAA (Gesundheitsdaten, USA) und GLBA (Finanzdaten, USA) beschränken die Zweitnutzung unabhängig davon, ob AI im Spiel ist.

Der gemeinsame Nenner in der EU, den USA und den meisten anderen Regelwerken: Das Problem ist nicht AI an sich, sondern die stille Zweckänderung von Daten, die unter einem engeren Versprechen erhoben wurden.

Was „Zweckbindung“ tatsächlich verlangt

Es gibt zwei rechtmäßige Wege, wenn Sie Daten für einen neuen Zweck weiterverwenden wollen:

1. Kompatibilitätstest: Manche Aufsichtsbehörden (insbesondere nach DSGVO Artikel 6(4)) erlauben die Weiterverwendung, wenn der neue Zweck mit dem ursprünglichen „vereinbar“ ist, wobei Faktoren wie Kontext, vernünftige Nutzererwartungen und angewendete Schutzmaßnahmen abgewogen werden. Eine AI auf aggregierten, anonymisierten Ticketkategorien zu trainieren, um das Routing zu verbessern, kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnte durchgehen. Einen generativen Copiloten zu trainieren, der den exakten Beschwerdetext eines Nutzers gegenüber einem anderen Kunden wiedergeben kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnte, mit ziemlicher Sicherheit nicht.

2. Neue Einwilligung oder neue Rechtsgrundlage: Ist keine Vereinbarkeit gegeben, brauchen Sie eine neue Rechtsgrundlage, meist eine erneuerte, spezifische, informierte Einwilligung oder ein dokumentiertes und belastbares Legitimate Interest Assessment (LIA).

Anonymisierung spielt hier eine Rolle, wird aber oft überschätzt. Echte Anonymisierung (irreversibel, keine Re-Identifizierung möglich) hebt die Anwendbarkeit der DSGVO vollständig auf. Pseudonymisierung (Ersetzen von Identifikatoren durch TokensTokensA token is the basic unit of text that language models process, often a word fragment, whole word, or punctuation mark rather than a single character.Vollständige Definition ansehen →) tut das nicht; pseudonymisierte Daten sind nach EU-Recht weiterhin personenbezogene Daten, wenn eine Re-Identifizierung machbar ist.

Den Re-Permissioning-Workflow aufbauen

Wenn das Produktteam ein AI-Feature auf Basis vorhandener Daten ausliefern will, arbeiten Sie diese Abfolge ab, bevor auch nur ein Trainingsjob startet.

Schritt 1: Data Mapping. Identifizieren Sie jeden Datensatz, den das Feature berührt (Tickets, Chat-Transkripte, Nutzungslogs), und dessen ursprünglich angegebenen Zweck. Werkzeuge wie ein Data Inventory oder ein Verzeichnis von Verarbeitungstätigkeiten (RoPA, Records of Processing Activities, ein von der DSGVO vorgeschriebenes Register darüber, welche Daten Sie zu welchem Zweck verarbeiten) machen das nachvollziehbar.

Schritt 2: Kompatibilitätsbewertung. Dokumentieren Sie schriftlich, ob der AI-Anwendungsfall mit dem ursprünglichen Zweck vereinbar ist. Das britische Information Commissioner's Office (ICO) veröffentlicht eine praktische Checkliste zur Vereinbarkeit, die sich zur Anpassung lohnt: ICO-Leitlinien zur Zweckbindung.

Schritt 3: Rechtsgrundlage wählen.

• Vereinbar und risikoarm (z. B. aggregierte Analytics) → weitermachen, mit einer Datenschutz-Folgenabschätzung (DPIA), wenn das Risiko nicht trivial ist.
• Unvereinbar oder hochriskant (z. B. Rohtext von Tickets in ein LLMLLMA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →) → Re-Permissioning auslösen.

Schritt 4: Re-Permissioning-Kampagne. Das ist der operative Kern:

• Datenschutzerklärung aktualisieren, mit einer Beschreibung des AI-Anwendungsfalls in einfacher Sprache.
• Ein explizites, granulares Opt-in anbieten (keine gebündelte Checkbox „Ich stimme den aktualisierten Bedingungen zu“). Aufsichtsbehörden lehnen gebündelte Einwilligung zunehmend als nicht „freiwillig erteilt“ ab.
• Ein echtes Opt-out anbieten, das die Kernfunktion des Produkts nicht verschlechtert, da die DSGVO verlangt, dass eine Einwilligung ebenso leicht widerrufen wie erteilt werden kann.
• Einwilligung protokollieren, mit Zeitstempel, Version der angezeigten Erklärung und Mechanismus, und dieses Log für Auditzwecke aufbewahren.

Schritt 5: Technische Durchsetzung. Consent-Entscheidungen müssen tatsächlich in der Datenpipeline ankommen. Ein häufiger Fehler: Legal genehmigt einen Opt-in-Flow, aber Engineering trainiert trotzdem auf der gesamten Ticket-Tabelle, weil kein Flag nach unten durchgereicht wird.

Eine minimale SchemaSchemaA schema is the formal blueprint that defines how data is structured, named, typed, and related within a database, file, or message.Vollständige Definition ansehen →-Korrektur sieht so aus:

-- ticket table gains a consent flag that ETL/training jobs must filter on
ALTER TABLE support_tickets
ADD COLUMN ai_training_consent BOOLEAN DEFAULT FALSE;

-- training extraction query respects the flag
SELECT ticket_id, body_text
FROM support_tickets
WHERE ai_training_consent = TRUE
  AND anonymization_status = 'completed';

Ohne einen solchen erzwungenen Filter ist Consent eine juristische Fiktion: ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → existiert in einem Policy-Dokument, aber nicht in der PipelinePipelineAll active sales opportunities across the stages of the sales process, together with their combined potential value and probability of closing.Vollständige Definition ansehen →.

Audits vor und nach dem Launch

• Pre-Launch-DPIA: nach DSGVO verpflichtend, wenn die Verarbeitung „voraussichtlich ein hohes Risiko zur Folge hat“, was das Training generativer Modelle auf Nutzerinhalten typischerweise erfüllt.
• Prüfung der Datenminimierung: Braucht das Modell den Rohtext des Tickets, oder würden Zusammenfassungen/strukturierte Felder genügen?
• Leakage-Test: Prompten Sie das trainierte Modell, um zu sehen, ob es Kundentext wörtlich reproduziert (ein bekanntes Memorization-Risiko bei LLMs).
• Audit der Consent-Abdeckung: quartalsweise prüfen, ob der Anteil der Trainingsdaten mit gültiger, aktueller Einwilligung dem entspricht, was Compliance annimmt.
• Vendor-Flow-down: Wenn ein externer AI-Anbieter (OpenAI, Anthropic, Google) die Daten verarbeitet, prüfen Sie, ob Ihr Auftragsverarbeitungsvertrag (DPA) dessen eigenes Modelltraining mit den Daten Ihrer Kunden ausdrücklich untersagt.

Der geschäftliche Zielkonflikt, ehrlich benannt

Re-Permissioning erzeugt Reibung, und Reibung verkleinert den Pool an Trainingsdaten. Produktteams halten oft dagegen: „Wenn wir nochmal fragen, sinkt die Zustimmung und der Copilot wird schlechter.“ Dieser Tradeoff ist real, aber die Alternative ist regulatorisches Risiko. Clearview AI, Meta und Clarivate waren alle mit regulatorischen MaMaUsing software to automate repetitive marketing tasks and campaigns, enabling personalisation at scale across channels like email, web, and social.Vollständige Definition ansehen →ßnahmen oder hohen Bußgeldern konfrontiert, die mit der Zweckänderung personenbezogener Daten ohne ausreichende Grundlage zusammenhingen; Beträge und Entscheidungen unterscheiden sich je nach Jurisdiktion und Fall, aber das Muster ist konsistent genug, um es ernst zu nehmen.

Die bessere Rahmung für Produktteams: Bauen Sie Re-Permissioning direkt in die Feature-Ankündigung ein. „Wir starten einen AI-Assistenten, der auf Support-Mustern trainiert ist. Hier steht genau, was ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → nutzt, und hier ist Ihre Kontrolle darüber“ macht aus einer Compliance-Pflicht ein Vertrauenssignal, und das ist im Enterprise-SaaS-Geschäft selbst ein Retention-Hebel, wo Einkaufsabteilungen inzwischen routinemäßig nach der Herkunft der AI-Trainingsdaten fragen.

🎬 [VIDEO: "GDPR and AI: Purpose Limitation Explained" - youtube.com - suchen Sie nach Erklärvideos von IAPP (International Association of Privacy Professionals) oder dem ICO-Kanal zu Zweckbindung und AI-Trainingsdaten, nützlich für einen visuellen Durchgang durch den Kompatibilitätstest]

Zentrale Erkenntnisse

• Zweckbindung (DSGVO Artikel 5(1)(b)) bedeutet, dass für den Support erhobene Daten nicht automatisch zum Training von AI-Features weiterverwendet werden dürfen; das ist ein aktives Durchsetzungsfeld in der EU und zunehmend bei der FTC sowie unter CCPA/CPRA in den USA.
• Anonymisierung beseitigt das rechtliche Problem nur, wenn sie irreversibel ist; pseudonymisierte Daten bleiben regulierte personenbezogene Daten.
• Ein echter Re-Permissioning-Workflow hat fünf Schritte: Data Mapping, Kompatibilitätsbewertung, Wahl einer Rechtsgrundlage, eine explizite Opt-in-Kampagne und die Durchsetzung von Consent-Flags in der tatsächlichen Datenpipeline, nicht nur in Policy-Dokumenten.
• Führen Sie vor dem Training eine DPIA durch, testen Sie danach auf wörtliche Memorization und auditieren Sie die Consent-Abdeckung quartalsweise.
• Behandeln Sie Re-Permissioning als Vertrauens- und Vertriebsargument, nicht nur als Rechtskosten, besonders im Enterprise-SaaS, wo KKThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →äufer die Herkunft von AI-Trainingsdaten heute im Einkaufsprozess prüfen.