Das KI-Regelwerk für die Produktion: Was für Ihr Werk wirklich gilt

# Das KI-Regelwerk für die Produktion: Was für Ihr Werk wirklich gilt

Ein Bildverarbeitungssystem an einer Schweißlinie erkennt fehlerhafte Chassis-Schweißnähte mit 98 % Genauigkeit. Ein Cobot an derselben Linie passt seine Greifkraft in Echtzeit an das Bauteilgewicht an, erfasst über eine Kamera. Eines dieser Systeme unterliegt kaum einer direkten KI-spezifischen Regulierung. Das andere kann Konformitätsbewertungen, Anforderungen an die technische Dokumentation und CE-Kennzeichnungspflichten nach zwei sich überlappenden EU-Rahmenwerken auslösen. Die meisten Werksleiter kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen nicht sagen, welches welches ist. In dieser Lücke versteckt sich das regulatorische Risiko.

Diese Lektion liefert Ihnen die Karte: Welche KI-Anwendungsfälle in der Produktion tatsächlich harte rechtliche Pflichten auslösen und welche geringeres Risiko tragen, obwohl sie auf einer Vorstandsfolie bedrohlich klingen.

Die drei Ebenen, die sich in Ihrer Fabrik stapeln

KI in der Produktion untersteht nicht einem einzigen Gesetz. Typischerweise liegen drei Ebenen gleichzeitig darüber:

1. Der EU AI Act (Verordnung (EU) 2024/1689, das erste umfassende horizontale KI-Gesetz, in Kraft seit August 2024, mit Pflichten, die bis 2027 stufenweise greifen). ErErThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → klassifiziert KI-Systeme nach Risikostufe, nicht nach Branche.

2. Maschinensicherheitsrecht: die EU-Maschinenverordnung (EU) 2023/1230, die die alte Maschinenrichtlinie ersetzt, gültig ab Januar 2027, und die physische Sicherheit von Maschinen regelt, einschließlich solcher mit KI-gesteuerten „Sicherheitsfunktionen“.

3. Sektor- und technische Normen wie ISO 10218 (Sicherheit von Industrierobotern) und ISO/TS 15066 (kollaborative Roboter), die selbst keine Gesetze sind, aber den technischen Benchmark bilden, auf den Aufsichtsbehörden und Gerichte verweisen, wenn sie beurteilen, ob Sie eine rechtliche Pflicht zum „Stand der Technik“ erfüllt haben.

In den USA gibt es bislang kein direktes Äquivalent zum AI Act. Hersteller dort richten sich vor allem nach den General Duty Clauses der OSHA (Occupational Safety and Health Administration), dem Produkthaftungsrecht und dem freiwilligen NIST AI Risk Management Framework. Wenn Sie in die EU exportieren, folgen die EU-Regeln allerdings dem Produkt, nicht nur dem Standort der Fabrik.

Wo der EU AI Act in der Produktion tatsächlich greift

Der AI Act sortiert Systeme in vier Stufen: verboten, hochriskant, begrenztes Risiko (Transparenzpflichten) und minimales Risiko. Die meiste KI im Werk landet in der letzten Kategorie. Die Falle ist die Hochrisiko-Kategorie, definiert vor allem über Anhang III des Rechtsakts.

Für die Produktion sind zwei Auslöser aus Anhang III am wichtigsten:

• KI, die als Sicherheitsbauteil eines Produkts eingesetzt wird, das bereits dem EU-Produktsicherheitsrecht unterliegt, einschließlich Maschinen. Wenn Ihre KI entscheidet, wann ein Roboterarm stoppt, langsamer wird oder seine Bahn ändert, um einen Mitarbeiter nicht zu verletzen, ist das ein Sicherheitsbauteil. Hochriskant.
• KI im Beschäftigtenmanagement: Systeme, die Entscheidungen über Einstellung, Aufgabenzuweisung, Leistungsüberwachung oder KKThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →ündigung treffen oder mamaUsing software to automate repetitive marketing tasks and campaigns, enabling personalisation at scale across channels like email, web, and social.Vollständige Definition ansehen →ßgeblich beeinflussen. Eine Schichtplanungs-KI, die zugleich Mitarbeiter für Entlassungen bewertet, fällt darunter.

Was *nicht* automatisch darunterfällt: Predictive-Maintenance-Modelle, die Lagerausfälle prognostizieren, Bildverarbeitungssysteme zur Qualitätsprüfung, die Defekte für die menschliche Prüfung markieren, und Demand-Forecasting-KI für die Produktionsplanung. Diese wirken auf Kosten und Qualität, nicht unmittelbar auf physische Sicherheit oder Beschäftigungsentscheidungen, und liegen daher meist außerhalb von Anhang III. Transparenzpflichten kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen dennoch gelten, wenn das System mit Menschen interagiert (Artikel 50).

Beispiel durchgerechnet. Eine Stanzpresse nutzt ein Vision-Modell, um das Eingreifen einer Hand zu erkennen und die Presse zu stoppen. Das ist ein Sicherheitsbauteil einer Maschine: hochriskant nach dem AI Act, und es muss zusätzlich die grundlegenden Gesundheits- und Sicherheitsanforderungen der Maschinenverordnung erfüllen, wahrscheinlich nachgewiesen über Konformität mit ISO 13849 (sicherheitsbezogene Steuerungssysteme) oder ISO 10218 für Roboterzellen. Zwei Regulierungsregime, ein System.

Zum Vergleich: ein Vision-Modell an derselben Linie, das fertige Teile fotografiert und die Lackqualität für eine Nacharbeitsschlange bewertet. Keine Sicherheitsfunktion, keine Bewertung im Beschäftigtenmanagement. Minimales Risiko nach dem AI Act, dokumentieren sollten Sie es trotzdem für die interne Qualitätssicherung und Kundenaudits.

Die Überlappung mit der Maschinensicherheit: nicht doppelt zählen, nicht überspringen

Die EU-Maschinenverordnung listet „Sicherheitsfunktionen“ auf, die, wenn sie teilweise oder vollständig von KI übernommen werden, eine Konformitätsbewertung durch Dritte statt einer Selbstzertifizierung des Herstellers erzwingen. Das sind die schärfsten Zähne im gesamten Stapel für Robotik in der Fertigung.

ISO 10218 (Teile 1 und 2, Industrieroboter und Robotersysteme) und ISO/TS 15066 (Kraft- und Geschwindigkeitsgrenzen für kollaborative Roboter) sind die Referenznormen, anhand derer Versicherer, Auditoren und notifizierte Stellen beurteilen, ob Ihre Roboterzelle dem „Stand der Technik“ entspricht. Sie zu befolgen befreit Sie nicht vom AI Act, ist aber ein starker Nachweis der Konformität auf der Maschinenseite und beschleunigt in der Regel eine Hochrisiko-Konformitätsbewertung nach dem AI Act, weil Ihre technische Dokumentation bereits existiert.

Praktische Faustregel für einen Werksingenieur:

• KI berührt Bewegung, Kraft oder Stoppverhalten in der Nähe von Menschen → Maschinensicherheitsregime gilt, wahrscheinlich + Hochrisiko nach AI Act.
• KI berührt Prüfung, Prognose, Planung, Logistik, ohne physische Gefährdung zu steuern → meist nur minimales oder begrenztes Risiko nach AI Act.
• KI berührt HR-Entscheidungen über bestimmte Beschäftigte → Hochrisiko nach AI Act, unabhängig von physischer Sicherheit.

Ein einfacher Triage-Snippet

Teams kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen diese Logik in eine Eingangs-Checkliste gießen, bevor irgendein KI-Projekt startet. Eine vereinfachte Version:

def classify_ai_use_case(controls_physical_hazard,
                          influences_worker_employment_decisions,
                          interacts_directly_with_humans):
    if controls_physical_hazard:
        return "HIGH-RISK: AI Act Annex III + Machinery Regulation"
    if influences_worker_employment_decisions:
        return "HIGH-RISK: AI Act Annex III (worker management)"
    if interacts_directly_with_humans:
        return "LIMITED-RISK: transparency duties (Art. 50)"
    return "MINIMAL-RISK: internal governance only"

Das ersetzt keine juristische Prüfung, aber es verhindert, dass 80 % der Projekte mit geringem Risiko in Qualitätskontrolle und Forecasting durch einen teuren Compliance-Prozess geschickt werden, den sie nicht brauchen, und markiert die 20 %, die ihn wirklich benötigen.

Was eine Hochrisiko-Einstufung Sie tatsächlich kostet

Landet ein System in Anhang III als hochriskant, umfassen die Pflichten des AI Act (überwiegend verbindlich ab August 2026):

• Ein Risikomanagementsystem, das über den gesamten Lebenszyklus des KI-Systems gepflegt wird
• Data GovernanceData GovernanceData governance is the set of policies, roles, and processes that ensure data is accurate, secure, well-defined, and used responsibly across an organization.Vollständige Definition ansehen →: Qualität der Trainingsdaten, Bias-Prüfungen, besonders relevant für bildbasierte Defekterkennung, die auf historischen (möglicherweise verzerrten) Ausschussproben trainiert wurde
• Technische Dokumentation und automatisches Logging (Nachvollziehbarkeit von Entscheidungen)
• Gestaltung der menschlichen Aufsicht: eine Person muss eingreifen oder übersteuern kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen
• Konformitätsbewertung und CE-Kennzeichnung vor dem Inverkehrbringen
• Post-Market-Monitoring und Meldung von Vorfällen an nationale Behörden

Das ist echter Engineering- und Papieraufwand, kein Häkchen. Ein mittelgroßererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → Automobilzulieferer, der KI-gesteuerte Roboterschweißzellen über mehrere Linien einführt, sollte einen dedizierten Compliance-Verantwortlichen einplanen, keine Nebenaufgabe für den Sicherheitsingenieur.

Bei Systemen mit geringem Risiko (die meisten Predictive-Maintenance- und Demand-Planning-Tools) ist der praktische Governance-Bedarf leichter: Verwendungszweck dokumentieren, auf Model Drift überwachen, einen Human-in-the-Loop für kostenintensive Entscheidungen behalten und die Herkunft der Trainingsdaten aufbewahren, falls Sie später fehlende Verzerrung nachweisen oder einen Fehler erklären müssen.

Abgleich mit echten Regulierern, nicht nur mit dem Gesetzestext

Zwei nützliche Anker beim Aufbau interner Richtlinien:

• Die AI-Act-Seite der Europäischen Kommission verfolgt die gestuften Umsetzungstermine und Leitfäden, sobald sie veröffentlicht werden.
• NISTs AI Risk Management Framework (USA, freiwillig, aber weit verbreitet) bietet eine praktische Struktur für den Schritt des Risk Mapping, selbst wenn Sie nur in der EU tätig sind, denn Auditoren und Versicherer erwarten zunehmend, eine zu sehen.

Die wichtigsten Erkenntnisse

• KI in der Produktion unterliegt mindestens drei gestapelten Regimen: dem EU AI Act (risikogestuft), der EU-Maschinenverordnung (physische Sicherheit) und technischen Normen wie ISO 10218/15066 (die Beweislatte für den „Stand der Technik“).
• Der eigentliche Auslöser für den Hochrisiko-Status ist nicht „KI in einer Fabrik“, sondern KI, die physische Gefährdungen in der Nähe von Menschen steuert, oder KI, die Beschäftigungsentscheidungen über bestimmte Mitarbeiter trifft.
• Die meiste KI in Prüfung, Prognose und Planung bleibt in der Stufe minimales oder begrenztes Risiko und braucht leichtere Governance (Dokumentation, Drift-Monitoring, menschliche Aufsicht bei kostspieligen Entscheidungen).
• Wer ISO 10218/15066 für Roboterzellen befolgt, baut die technische Dokumentation auf, die auch die Konformitätsbewertung nach dem AI Act stützt: Compliance-Arbeit wird nicht dupliziert, wenn sie gemeinsam geplant wird.
• Bauen Sie einen einfachen Triage-Schritt (wie den Classifier oben) in den Projekteingang ein, damit Rechts- und Compliance-Ressourcen an die 20 % der Projekte mit echtem regulatorischem Risiko gehen und nicht an alle.