Data Quality Audits: Bots, doppelte IDs und kaputte Pipelines finden, bevor sie Entscheidungen verzerren

# Data QualityData QualityThe degree to which data is fit for purpose: accurate, complete, consistent, timely, valid and unique. Poor quality data undermines analytics, reporting and AI.Vollständige Definition ansehen → Audits: Bots, doppelte IDs und kaputte Pipelines finden, bevor sie Entscheidungen verzerren

Eine Streaming-Plattform meldete über Nacht einen Anstieg der Plays um 40% für eine Dokumentation aus dem mittleren Segment. Niemand hatte sie beworben. Niemand hatte sie in ein neues Territorium lizenziert. Die Ursache, drei Wochen später entdeckt: Eine Bot-Farm ließ den Titel in Schleife laufen, um Referral-Auszahlungen aus einem regionalen Telekom-Bundle abzugreifen. Als die Anomalie auffiel, war bereits eine zweite Staffel auf Basis des gefälschten Demand-Signals greenlighted worden. Ein Data-Quality-Fehler kostet in den Medien mehr als falsche Zahlen; ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → kostet die Entscheidungen, die darauf aufbauen.

Diese Lektion zeigt, wie man einen Content-Katalog und Viewing-Logs so auditiert, wie es ein Data- oder Analytics-Team tun sollte, bevor diese Zahlen in einem Greenlight-Meeting oder einem Investor Deck landen.

Warum Mediendaten häufiger brechen als in anderen Branchen

Medien-Datenpipelines sind aus einigen strukturellen Gründen ungewöhnlich fragil:

• Metadaten mit hoher Kardinalität. Ein einzelner Titel kann über die Supply Chain hinweg ein Dutzend IDs haben (Studio-ID, Distributor-ID, plattforminterne ID, EIDR, ein Industriestandard-Identifier für Filme und TV-Episoden), und die stimmen häufig nicht überein.
• Maschinengenerierte Demand. Bots, Scraper und Click Farms zielen auf Streaming- und Ad-Tech-Daten, weil Plays, Views und ImpressionsImpressionsThe total number of times an ad or piece of content is displayed, regardless of clicks. Each display counts as one impression, even to the same person.Vollständige Definition ansehen → oft direkt zu Geld werden (Werbeerlöse, Lizenzgebühren, algorithmische Promotion).
• Fragmentierte Pipelines. Viewing-Logs, Katalog-Metadaten und Rechtedaten liegen meist in getrennten Systemen (ein CMS für Content, ein CDN für die Auslieferung, ein BIBITechnologies and processes that turn raw data into actionable insights via reporting, dashboards and analysis, so teams can decide based on facts rather than intuition.Vollständige Definition ansehen →-Warehouse für Analytics), zusammengehalten von ETLETLETL (Extract, Transform, Load) is a data integration process that pulls data from sources, reshapes it into a consistent format, and writes it into a target system.Vollständige Definition ansehen →-Jobs (Extract, Transform, LoadExtract, Transform, LoadETL (Extract, Transform, Load) is a data integration process that pulls data from sources, reshapes it into a consistent format, and writes it into a target system.Vollständige Definition ansehen →), die still ausfallen.

Die zentralen Datensätze, die Sie auditieren

Bevor Sie Qualität prüfen, sollten Sie wissen, was Sie eigentlich vor sich haben.

Content-Katalogdaten: Titel-Metadaten (Genre, Laufzeit, Cast, Erscheinungsdatum, Territorialrechte, Sprachspuren). Source of Truth ist üblicherweise das Studio oder das Content-Management-System der Plattform.

Viewing-/Engagement-Logs: Events mit Zeitstempel (Play Start, Pause, Completion, Skip) auf User-Session-Ebene. Das ist der roheste Datensatz mit dem größten Volumen, bei einem großen Streamer oft Milliarden Zeilen pro Tag.

Rechte- und Lizenzdaten: Für welche Territorien, Windows und Plattformen ein Titel freigegeben ist. Fehler hier erzeugen Compliance-Risiken, nicht nur Reporting-Rauschen.

Ad-Delivery- und Measurement-Daten: ImpressionsImpressionsThe total number of times an ad or piece of content is displayed, regardless of clicks. Each display counts as one impression, even to the same person.Vollständige Definition ansehen →, Viewability, Completion Rate, verifiziert von Dritten wie Nielsen in den USA oder BARB in Großbritannien für konvergente Messung von Linear und Streaming.

Schritt 1: Erkennung doppelter IDs

Doppelte Titel-IDs sind der häufigste Katalogfehler. Sie entstehen, wenn derselbe Content zweimal eingespielt wird, einmal aus einem Studio-Feed und einmal aus einem regionalen Distributor-Feed, mit unterschiedlichen internen Keys.

Eine einfache Audit-Query sieht so aus:

SELECT title_name, release_year, COUNT(DISTINCT internal_title_id) AS id_count
FROM content_catalog
GROUP BY title_name, release_year
HAVING id_count > 1;

Wenn das bei einem Katalog von 20.000 Titeln Hunderte Zeilen zurückgibt, haben Sie wahrscheinlich doppelt gezählte Engagement-Kennzahlen: Jede doppelte ID zersplittert die tatsächliche View-Zahl über zwei Zeilen und untertreibt damit die echte Performance eines Titels, oder schlimmer, eine ID wird in den Empfehlungen ausgespielt, während die andere ohne Daten liegen bleibt und Personalisierungsmodelle verzerrt.

Fix: Setzen Sie einen einzigen kanonischen Identifier durch. EIDR (Entertainment Identifier Registry) kommt einem Industriestandard dafür am nächsten, im Prinzip vergleichbar mit einer ISBN für Bücher.

Schritt 2: Bot- und Fraud-Erkennung in Viewing-Logs

Bot-aufgeblähte Plays zeigen sich in statistisch abnormalen Mustern:

• Unplausibel hohe Plays pro User und Stunde
• Identische Session-Dauern bis auf die Millisekunde, über Tausende Sessions hinweg
• Geografische Cluster, die nicht zum Marketing-Footprint eines Titels passen
• Completion Rates nahe 100% bei Content-Typen (lange Dokumentationen, fremdsprachige Filme), die normalerweise hohe Abbruchraten zeigen

Ein einfaches Anomalie-Flag: Vergleichen Sie das Verhältnis Plays pro Unique Device eines Titels mit dem Median des Katalogs.

median_ratio = df['plays'].sum() / df['unique_devices'].nunique()
title_ratio = title_df['plays'].sum() / title_df['unique_devices'].nunique()

if title_ratio > median_ratio * 5:
    flag_for_review(title_id)

Das fängt keinen ausgefeilten Fraud ab, aber es fängt die groben Fälle mit hohem Volumen, die tatsächlich Geschäftsentscheidungen bewegen, also die, wegen denen ein Titel verlängert oder ein Marketingbudget auf ein falsches Signal hin umverteilt wird.

Die Werbebranche hat sich um dieses Problem herum über den Media Rating Council (MRC) organisiert, der Measurement-Anbieter akkreditiert und Standards für Invalid Traffic (IVT) definiert, General Invalid Traffic (offensichtliche Bots, Crawler) versus Sophisticated Invalid Traffic (schwerer zu erkennen, imitiert menschliches Verhalten). Nach Branchenschätzungen von 2024 werden die weltweiten Verluste durch Ad Fraud auf zweistellige Milliardenbeträge pro Jahr geschätzt (Juniper Research und ähnliche Tracker; behandeln Sie jede konkrete Zahl als Schätzung, die Methodiken unterscheiden sich stark).

Schritt 3: Prüfung auf kaputte Pipelines und fehlende Metadaten

Der leiseste Fehlermodus ist ein weggefallenes Feld, nicht Fraud. Ein typisches Szenario: Eine Plattform wechselt ihren CDN-Anbieter (Content Delivery Network, die Infrastruktur, die Video an die User streamt), und die Logs des neuen Anbieters befüllen drei Wochen lang das Feld "device type" nicht. Niemandem fällt es auf, weil die Gesamtzahl der Plays normal aussieht. Aber jeder Report, der nach Device segmentiert (Mobile vs. Connected TV), ist für diesen Zeitraum still und heimlich falsch.

Governance-Kennzahlen für die Routine:

| Kennzahl | Was sie aufdeckt | Gesunder Benchmark (illustrativ) |

|---|---|---|

| Null-Rate pro Feld | Weggefallene PipelinePipelineAll active sales opportunities across the stages of the sales process, together with their combined potential value and probability of closing.Vollständige Definition ansehen →-Felder | Unter 1 bis 2% für kritische Felder (Schätzung, variiert je Feld) |

| SchemaSchemaA schema is the formal blueprint that defines how data is structured, named, typed, and related within a database, file, or message.Vollständige Definition ansehen →-Drift-Events pro Monat | Upstream-Formatänderungen, die ETLETLETL (Extract, Transform, Load) is a data integration process that pulls data from sources, reshapes it into a consistent format, and writes it into a target system.Vollständige Definition ansehen → brechen | Sollte mit Alerting gegen null tendieren |

| Rate doppelter IDs | Fehler beim Katalog-Ingest | Unter 0,5% des Katalogs (Schätzung) |

| Rate auffälliger Session-Flags | Bot-/Fraud-Aktivität | Stabile Baseline; jeden Sprung um Faktor 2+ gegenüber Vorwoche untersuchen |

| Time-to-Detection | Wie schnell BrBrThe percentage of visitors who leave after viewing only one page, often a signal of poor relevance, mismatched intent, or weak user experience.Vollständige Definition ansehen →üche erkannt werden | Stunden, nicht Wochen, mit automatisiertem Monitoring |

Das sind illustrative Zielwerte, keine regulatorischen Standards. Jede Plattform sollte ihre eigene Baseline aus historischen Daten ableiten, statt eine Zahl aus der völlig anders gebauten PipelinePipelineAll active sales opportunities across the stages of the sales process, together with their combined potential value and probability of closing.Vollständige Definition ansehen → eines Wettbewerbers zu übernehmen.

Ein durchgerechnetes Mini-Beispiel

Angenommen, ein Titel weist 1.000.000 erfasste Plays aus. Ihr Audit findet:

• 60.000 Plays kamen von 40 Devices mit identischen Session-Dauern (Bot-Muster) → entfernen
• 80.000 Plays sind doppelt, weil der Titel zwei Katalog-IDs hat, die spät zusammengeführt wurden → deduplizieren, nicht entfernen, der kanonischen ID zuordnen
• 15.000 Plays haben ein Null-Feld bei "completion" wegen eines dreitägigen PipelinePipelineAll active sales opportunities across the stages of the sales process, together with their combined potential value and probability of closing.Vollständige Definition ansehen →-Ausfalls → als unvollständige Daten markieren, nur aus der Berechnung der Completion Rate ausschließen

Bereinigte Zahl für Fraud-Zwecke: 1.000.000 − 60.000 = 940.000 echte Plays.

Die Completion Rate sollte auf 940.000 − 15.000 = 925.000 Plays mit gültigen Completion-Daten berechnet werden, nicht auf der rohen Million.

Meldet man die rohen 1.000.000 an ein Content-Acquisitions-Team, überschätzt das die echte Demand allein durch Bots um rund 6%, noch bevor die Metadatenlücken berücksichtigt sind. In einem Geschäft, in dem Verlängerungsentscheidungen an der relativen Performance von Titeln hängen, kann eine Verzerrung von 6% ein Ranking kippen.

Das Audit in eine Routine überführen, nicht einmalig durchführen

Ein einmaliges Audit findet Probleme. Ein Governance-Prozess verhindert, dass sie wiederkehren. Drei praktische Gewohnheiten:

1. Automatisierte Data Contracts: Definieren Sie erwartetes SchemaSchemaA schema is the formal blueprint that defines how data is structured, named, typed, and related within a database, file, or message.Vollständige Definition ansehen →, Null-Toleranzen und Wertebereiche für jeden eingehenden Feed und alarmieren Sie, wenn ein Feed seinen Contract verletzt (Tools wie Great Expectations sind kostenlos und dafür weit verbreitet).

2. Reconciliation-Checkpoints: Gleichen Sie Katalogzahlen und Play-Summen über mindestens zwei unabhängige Systeme ab (z. B. CDN-Logs vs. Billing-/Ad-Serving-Logs), wöchentlich, nicht quartalsweise.

3. Benannte Data Ownership: Jeder Datensatz braucht einen verantwortlichen Owner, nicht nur ein Engineering-Team in Rufbereitschaft. Medienunternehmen benennen zunehmend einen Data-Governance-Lead, genau weil "Aufgabe von allen" heißt: Aufgabe von niemandem.

🎬 [VIDEO: "How Ad Fraud Works (and How to Stop It)" - youtube.com/results?search_query=how+ad+fraud+works+bots - suchen Sie diesen Begriff für aktuelle, an MRC/IAB ausgerichtete Erklärinhalte zur Bot-Erkennung in der digitalen Medienmessung]

Key Takeaways

• Doppelte Titel-IDs zersplittern oder verdoppeln Engagement-Daten unbemerkt; setzen Sie einen kanonischen Identifier-Standard wie EIDR durch und prüfen Sie regelmäßig darauf.
• Bot-aufgeblähte Plays folgen erkennbaren statistischen Mustern (abnormale Plays-pro-Device-Verhältnisse, identische Session-Dauern); bauen Sie automatisierte Anomalie-Flags, statt auf manuelle Prüfung zu setzen.
• Fehlende oder Null-Metadatenfelder aus kaputten Pipelines sind gefährlicher als offensichtliche Fehler, weil sie einfache Plausibilitätsprüfungen bestehen und dabei jede nachgelagerte Segmentanalyse verfälschen.
• Setzen Sie illustrative interne Benchmarks (Null-Raten unter 1 bis 2%, Duplikatsraten unter 0,5%), kalibriert auf Ihre eigene historische Baseline, nicht auf geliehene Branchenzahlen.
• Behandeln Sie Datenqualität als fortlaufenden Governance-Prozess (Data Contracts, Reconciliation-Checkpoints, benannte Ownership), nicht als einmalige Aufräumaktion vor einem großen Report.