Die regulatorische Landschaft für KI im Krankenhaus kartieren

# Die regulatorische Landschaft für KI im Krankenhaus kartieren

Ein Tool zur Sepsis-Vorhersage markiert den Patienten in Bett 12 als Hochrisikofall. Dieser eine Alert hat gerade vier verschiedene Regulierungsregime berührt. Die FDA interessiert, ob der Algorithmus ein zugelassenes Medizinprodukt ist. HIPAA interessiert, wie die Patientendaten für Training und Betrieb bewegt wurden. Die ONC-Transparenzregeln interessieren, ob die Klinikerin nachvollziehen kann, wie der Score zustande kam. Und die Joint Commission interessiert, ob Ihr Krankenhaus das Ganze verantwortungsvoll gesteuert hat.

Niemand gibt Ihnen eine Karte, die zeigt, welche Regel welchen Teil bindet. Diese Lektion zeichnet sie.

Die vier Regime im Überblick

Stellen Sie sich vier überlappende Kreise vor, jeder gehört einer anderen Instanz.

• FDA (Food and Drug Administration): reguliert die Software selbst, wenn sie als Medizinprodukt gilt.
• HHS Office for Civil Rights: setzt HIPAA (Health Insurance Portability and Accountability Act) durch, die Datenschutz- und Sicherheitsregeln für Patientendaten.
• ONC (Office of the National Coordinator for Health IT): legt Anforderungen an die Algorithmus-Transparenz innerhalb zertifizierter elektronischer Patientenakten-Software (EHR) fest.
• Die Joint Commission: die wichtigste Akkreditierungsstelle für Krankenhäuser. Keine Behörde, aber der Verlust der Akkreditierung kann die Medicare-Vergütung beenden, deshalb behandeln Krankenhäuser sie als bindend.

Sie überlappen sich. Ein einziger Rollout kann alle vier auslösen. Der Trick besteht darin, zu wissen, welcher Trigger wann greift.

FDA: Ist Ihr Sepsis-Tool ein reguliertes Medizinprodukt?

Die Domäne der FDA ist SaMD (Software as a Medical Device): Software, die eine medizinische Funktion erfüllt, ohne Teil eines Hardwaregeräts zu sein.

Die Schlüsselfrage: diagnostiziert, behandelt oder steuert die Software eine klinische Entscheidung? Ein Sepsis-Modell, das einen Risiko-Score zur Therapiesteuerung ausgibt, ist sehr wahrscheinlich SaMD. Ein Tool, das nur vorhandene Akteneinträge für die Klinikerin zusammenfasst, möglicherweise nicht.

Die meisten prädiktiven klinischen Tools erhalten die FDA-Freigabe über den 510(k)-Pfad, der zeigt, dass das Produkt einem bereits am Markt befindlichen „im Wesentlichen gleichwertig" ist. Tools mit höherem Risiko brauchen unter Umständen die strengeren Wege De Novo oder PMA (Premarket Approval).

Zwei Fallen für Krankenhäuser:

1. Eigenentwickelte Modelle. Wenn Ihr Data-Science-Team ein Sepsis-Modell intern baut und es nur im eigenen Haus einsetzt, hat die FDA historisch enforcement discretion ausgeübt, das heißt, sie verlangt oft keine Freigabe. Kaufen Sie dieselbe Fähigkeit bei einem Anbieter, ist in der Regel eine Freigabe nötig. Gleiche Mathematik, andere Regel, weil der Trigger der kommerzielle Vertrieb ist.

2. Das Modell, das weiterlernt. Die klassische Freigabe geht von einem eingefrorenen Algorithmus aus. Für Modelle, die sich im Lauf der Zeit aktualisieren, hat die FDA den Predetermined Change Control Plan (PCCP) eingeführt: Sie erklären vorab, was das Modell verändern darf und wie Sie das validieren, sodass Retraining nicht jedes Mal eine neue Einreichung erfordert.

Zugelassene KI-Produkte kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen Sie in der öffentlichen FDA-Liste der AI-enabled medical devices durchsuchen.

HIPAA: die Daten darunter

HIPAA interessiert nicht, wie clever Ihr Modell ist. HIPAA interessiert PHI (Protected Health Information): identifizierbare Patientendaten.

Wo HIPAA in einem KI-Projekt greift:

• Trainingsdaten. Echte Patientenakten zum Training des Sepsis-Modells zu nutzen, ist eine „Verwendung" von PHI. Sie muss unter Behandlung, Abrechnung oder Betrieb fallen oder de-identifiziert sein (bereinigt um die 18 HIPAA-Identifikatoren wie Name, Datumsangaben, Patientennummer).
• Anbieter. Wenn ein Anbieter mit PHI in Berührung kommt, brauchen Sie ein Business Associate Agreement (BAA): ein Vertrag, der ihn für den Schutz der Daten haftbar macht. Kein BAA, keine Datenweitergabe. Punkt.
• Cloud-Inferenz. Die Vitalwerte von Bett 12 zum Scoring an eine Cloud-APIAPIApplication Programming Interface: a standardised interface that lets applications communicate and exchange data without knowing each other's internal workings.Vollständige Definition ansehen → zu schicken, ist eine Übermittlung von PHI. Das erfordert Verschlüsselung und ein BAA mit dem Cloud-Anbieter.

Ein häufiger Fehler: Ein Data Scientist leitet Live-Daten ohne BAA in ein allgemeines Large Language ModelLarge Language ModelA Large Language Model is an AI system trained on vast text data to predict and generate language, enabling tasks like writing, summarizing, and answering questions.Vollständige Definition ansehen →, um „eine Idee zu testen". Das ist ein meldepflichtiger Datenschutzvorfall in Wartestellung.

ONC: Transparenz innerhalb der EHR

ONC reguliert certified health IT, also die EHR-Software (Epic, Oracle Health und andere), auf die Krankenhäuser für Medicare- und Medicaid-Programme angewiesen sind.

Nach der HTI-1-Regel (Health Data, Technology, and Interoperability, final 2024) müssen zertifizierte EHRs, die predictive decision support interventions (DSIs) anzeigen, also KI- oder algorithmische Empfehlungen, eine Reihe von „source attributes" offenlegen. Im Klartext: Die Klinikerin (oder das Krankenhaus) muss eine Art Nährwerttabelle für den Algorithmus einsehen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen:

• Auf welchen Daten ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → trainiert wurde.
• Welches Ergebnis ererThe ratio of interactions (likes, comments, shares) to reach for a given piece of content, used to gauge how well audiences respond relative to how many people saw it.Vollständige Definition ansehen → vorhersagt.
• Wie seine Performance validiert wurde.
• Bekannte Grenzen und Fairness-Aspekte.

Wenn Ihr Sepsis-Score also in Epic auftaucht, regelt HTI-1, ob Nutzer dieses Label aufrufen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen. Das ist Transparenz, keine Zulassung. ONC sagt nicht, dass das Modell gut ist. Es sagt, dass man sehen kkThe average number of new users each existing user generates through referrals. Above 1.0, growth compounds on itself and becomes exponential.Vollständige Definition ansehen →önnen muss, was es ist.

Joint Commission: den Einsatz steuern

Die Joint Commission akkreditiert Krankenhäuser und hat 2025 eine Leitlinie zum verantwortungsvollen Einsatz von KI für Gesundheitsorganisationen veröffentlicht. Ihr Fokus liegt nicht auf dem Algorithmus, sondern auf Ihrem Prozess drumherum:

• Haben Sie eine Governance-Aufsicht über KI-Tools?
• Überwachen Sie das Modell nach dem Go-live auf Drift und Bias?
• Weiß das Personal, wann eine Empfehlung von einer KI stammt?
• Gibt es einen Weg, KI-bezogene Sicherheitsvorfälle zu melden und zu bearbeiten?

Hier werden die anderen drei Regime operationalisiert. Die FDA gibt das Tool frei, HIPAA schützt die Daten, ONC macht das Label sichtbar, und die Joint Commission prüft, ob Ihr Krankenhaus die Leitplanken tatsächlich betreibt.

Angewandt auf ein Tool

Hier ist das Sepsis-Modell, kartiert:

| Regime | Was es regelt | Trigger |

|---|---|---|

| FDA | Der Algorithmus als Medizinprodukt | Von einem Anbieter verkauft, steuert klinische Entscheidungen |

| HIPAA | Genutzte und bewegte Patientendaten | Jede Nutzung identifizierbarer PHI |

| ONC HTI-1 | Transparenz-Label in der EHR | Anzeige über zertifizierte Health IT |

| Joint Commission | Governance und Monitoring im Krankenhaus | Jede KI im akkreditierten Betrieb |

Beachten Sie: Ein internes Modell, das die EHR umgeht, entgeht vielleicht der FDA-Freigabe und dem ONC-Label, aber HIPAA und Joint Commission gelten trotzdem. Die Regime überlappen sich, sie ersetzen einander nicht.

Eine minimale Pre-Deployment-Checkliste als Pseudocode:

for tool in ai_deployments:
    if tool.drives_clinical_decision and tool.is_vendor_supplied:
        require FDA_clearance(pathway in [510k, DeNovo, PMA])
    if tool.uses_PHI:
        require de_identification OR (BAA_signed and encryption_enabled)
    if tool.surfaced_in_certified_EHR:
        require HTI1_source_attributes_available
    require JointCommission.governance(monitoring, bias_check, staff_disclosure)

Woran Teams tatsächlich scheitern

„Das ist nur Entscheidungsunterstützung, also gilt die FDA nicht." Manchmal stimmt das, aber wenn das Tool die Behandlung beeinflusst und von einem Anbieter kommt, gehen Sie von SaMD aus, bis das Gegenteil bewiesen ist. Die Formulierung des Verwendungszwecks in Ihrem Marketing zählt genauso viel wie der Code.

„Wir haben de-identifiziert, damit ist HIPAA erledigt." Die De-Identifizierung muss dem HIPAA-Standard genügen (Safe Harbor mit Entfernung der 18 Identifikatoren oder Expert Determination). Nur den Patientennamen zu streichen, reicht nicht.

„Der Anbieter ist FDA-cleared, also sind wir abgesichert." Die Freigabe deckt das Produkt ab. Sie deckt nicht Ihr Monitoring, Ihr BAA oder Ihre EHR-Transparenz ab. Das ist Ihre Sache.

„HTI-1 bedeutet, das Modell ist zugelassen." Nein. ONC-Transparenz geht um Sichtbarkeit, nicht um Billigung. Auch ein schlecht performendes Modell kann sein Label zeigen.

Europa in einer Zeile

Für Leser, die jenseits des Atlantiks ausrollen: Der EU AI Act (seit 2024 in Kraft, mit Pflichten, die bis 2026 und 2027 gestaffelt greifen) stuft die meiste klinische KI als hochriskant ein und legt eine Konformitätsbewertung über die bestehenden Produktregeln der MDR (Medical Device Regulation). Die Struktur unterscheidet sich, aber der Grundgedanke ist derselbe: Belegen Sie, dass das Tool sicher ist, halten Sie die Daten rechtmäßig und steuern Sie den Einsatz.

Key Takeaways

• Ein Tool, vier Regime. Ein Sepsis-Modell kann FDA (Produkt), HIPAA (Daten), ONC (Transparenz) und Joint Commission (Governance) gleichzeitig auslösen. Kartieren Sie jedes vor dem Go-live.
• Der FDA-Trigger ist Verwendungszweck plus Vertrieb. Von Anbietern verkaufte Tools, die klinische Entscheidungen steuern, brauchen meist eine Freigabe; manche internen Tools fallen unter enforcement discretion, aber das ist keine Erlaubnis, Governance zu überspringen.
• HIPAA folgt den Daten überallhin. Training, Weitergabe an Anbieter und Cloud-Inferenz brauchen alle De-Identifizierung oder ein unterzeichnetes BAA mit Verschlüsselung.
• ONC HTI-1 ist ein Label, keine Zulassung. Sorgen Sie dafür, dass die source attributes des Modells in zertifizierten EHRs sichtbar sind.
• Die Joint Commission bindet alles zusammen. Monitoring nach dem Rollout, Bias-Checks und Offenlegung gegenüber dem Personal liegen in Ihrer Verantwortung, unabhängig davon, wer das Modell gebaut hat.