KI-Use-Cases in GMP-Prozessen: ein Drei-Zonen-Modell
Der Annex-22-Konsultationsentwurf vom 7. Juli 2025 enthält keine Zone-A/B/C-Systematik. Er setzt bei intended use, Akzeptanzkriterien, Testdaten, Explainability, Confidence und Betriebskontrolle an. Ein Drei-Zonen-Modell kann trotzdem helfen, KI-Use-Cases in GMP-Prozessen intern zu priorisieren, solange es nicht als Annex-22-Klassifizierung missverstanden wird.
KI-Use-Case-Klassifizierung bedeutet hier: Eine KI-Anwendung wird nach ihrer Funktion im GxP-Prozess, ihrem Einfluss auf Produktqualität und Patientensicherheit sowie nach vorhandenen Kontrollbarrieren eingeordnet. Das Drei-Zonen-Modell in diesem Beitrag ist eine redaktionelle Heuristik für QA, IT-Validation und Process Owner. Es ist nicht die Klassifizierungssystematik des Annex-22-Konsultationsentwurfs.
Der offizielle Annex-22-Konsultationsentwurf der EU-Kommission wurde am 7. Juli 2025 im Rahmen der Konsultation zu EudraLex Volume 4 veröffentlicht. Die Konsultation betrifft Chapter 4, Annex 11 und den neuen Annex 22 Artificial Intelligence. Der Entwurf ist noch nicht final. Er liefert aber erstmals eine konkrete GMP-Lesart für KI/ML-Modelle in der Herstellung von Arzneimitteln und Wirkstoffen.
Inhalt des Entwurfs
Annex 22 setzt nicht bei Zonen an. Der Entwurf beschreibt Anforderungen an KI/ML-Modelle, die durch Training mit Daten ihre Funktion erhalten haben und in kritischen GMP-Anwendungen eingesetzt werden. Kritisch sind Anwendungen mit direkter Wirkung auf Patientensicherheit, Produktqualität oder Datenintegrität, etwa Vorhersage- oder Klassifikationsaufgaben in einem Herstellprozess.
Der Scope ist zugleich eng. Der Entwurf gilt für statische Modelle, deren Parameter nach Abschluss von Training und Validierung eingefroren sind. Dynamische Modelle, die im Betrieb kontinuierlich weiterlernen, werden nicht abgedeckt und sollen in kritischen GMP-Anwendungen nicht eingesetzt werden. Dasselbe gilt für Modelle mit probabilistischem Output, wenn identische Eingaben nicht zu identischen Ausgaben führen.
Generative KI und Large Language Models sind im Entwurf ebenfalls nicht für kritische GMP-Anwendungen vorgesehen. Für nicht-kritische GMP-Anwendungen können solche Modelle nur mit geeigneter Qualifikation, Training und menschlicher Verantwortung genutzt werden. Die menschliche Review-Barriere ist dabei kein dekorativer Schritt, sondern Teil der Kontrolle des intended use.
Prüflogik statt Zonenschema
Die Struktur des Entwurfs ist praktisch: intended use, acceptance criteria, test data, test data independency, test execution, explainability, confidence und operation. Diese Begriffe sind der bessere Startpunkt als eine scheinbar amtliche Zone.
Intended use verlangt eine genaue Beschreibung der Modellaufgabe im Prozess. Dazu gehören Eingabedaten, übliche und seltene Varianten, Grenzen des Sample Space, mögliche fehlerhafte Eingaben und Bias-Risiken. Der Process Subject Matter Expert ist im Entwurf ausdrücklich für die Angemessenheit dieser Beschreibung verantwortlich.
Acceptance criteria machen Modellleistung prüfbar. Bei Klassifikation können beispielsweise Confusion Matrix, Sensitivity, Specificity, Accuracy, Precision oder F1 Score relevant sein. Der Entwurf verlangt fallbezogene Testmetriken und Akzeptanzkriterien, die vor dem Test dokumentiert und genehmigt werden.
Test data sind ein eigener GMP-Gegenstand. Der Entwurf verlangt repräsentative, ausreichend große und stratifizierte Testdaten, einschließlich relevanter Subgruppen und seltener Varianten. Label müssen verifiziert werden, Vorverarbeitung muss vorab festgelegt sein, Datenbereinigung und Ausschlüsse brauchen Begründung.
Test data independency ist einer der schärferen Punkte. Testdaten dürfen nicht in Entwicklung, Training oder Validierung des Modells einfließen. Zugriff auf Testdaten muss kontrolliert und auditierbar sein. Der Entwurf adressiert sogar organisatorische Unabhängigkeit: Personen mit Testdatenzugriff sollen nicht ohne Kontrolle an Training und Validierung desselben Modells arbeiten.
Explainability und confidence betreffen die Interpretierbarkeit des Outputs. Bei kritischen GMP-Anwendungen sollen erklärende Verfahren wie Feature Attribution, SHAP, LIME oder Heatmaps genutzt werden, wo sie anwendbar sind. Confidence Scores und Schwellenwerte sollen verhindern, dass ein Modell bei geringer Sicherheit trotzdem eine scheinbar klare Klassifikation liefert.
Operation verbindet das Modell mit dem validierten Betrieb. Modell, System und der automatisierte oder unterstützte Prozess müssen vor Deployment unter Change Control und Configuration Control stehen. Performance und Input Sample Space werden im Betrieb überwacht, Drift-Signale müssen definiert werden. Bei Human-in-the-loop-Konstellationen braucht der menschliche Review eigene Aufzeichnungen.
Drei Zonen als interne Priorisierung
Trotzdem bleibt ein internes Drei-Zonen-Modell nützlich, wenn es richtig etikettiert wird. Es beantwortet nicht die Annex-22-Scope-Frage. Es beantwortet die Frage, welche Use Cases zuerst tiefer geprüft werden und welche Dossierbausteine voraussichtlich nötig sind.
Zone 1: keine kritische GMP-Wirkung. Die KI unterstützt allgemeine Recherche, Schulung, Ideensammlung, Terminologiearbeit oder administrative Vorstrukturierung. Ihr Output wird nicht als GxP-Aufzeichnung genutzt und beeinflusst keine Freigabe, keine CAPA-Entscheidung, keinen kritischen Prozessparameter und kein kritisches Qualitätsattribut. Für LLMs und generative KI ist das der Bereich, in dem Nutzung mit klaren Datenregeln und menschlicher Verantwortung überhaupt diskutierbar bleibt.
Zone 2: unterstützende GxP-Wirkung mit menschlicher Barriere. Die KI beeinflusst GxP-Prozesse indirekt oder bereitet Entscheidungen vor, aber eine fachlich qualifizierte Person prüft Output, Kontext und Folgemaßnahmen vor der Wirksamkeit im Prozess. Beispiele sind Trendanalysen für Abweichungen, Vorschläge für CAPA-Clustering, Priorisierung von Wartungsereignissen oder Entwürfe für Validierungsdokumente. Hier muss die Review-Barriere beschrieben und im Betrieb überprüft werden.
Zone 3: kritische GMP-Anwendung. Die KI sagt voraus, klassifiziert, steuert, blockiert oder sortiert in einem Prozess mit direkter Wirkung auf Patientensicherheit, Produktqualität oder Datenintegrität. Beispiele sind visuelle Defekterkennung mit automatischer Ausschleusung oder ein Modell, das freigaberelevante Prozessdaten bewertet. Für solche Systeme wird der Annex-22-Entwurf direkt relevant, sofern es sich um statische, deterministische KI/ML-Modelle handelt.
Entscheidungspfad
Der erste Prüfungspunkt ist der intendierte Gebrauch. Ein KI-System wird nicht abstrakt bewertet, sondern pro Use Case. Dasselbe Modell kann in einem Umfeld nur administrative Hilfsfunktion haben und in einem anderen Umfeld eine kritische GMP-Anwendung werden. Entscheidend ist, wie der Output im Prozess verwendet wird.
Der zweite Punkt ist die direkte Wirkung. Der Annex-22-Entwurf spricht ausdrücklich von kritischen Anwendungen mit direktem Einfluss auf Patientensicherheit, Produktqualität oder Datenintegrität. Ein System, das nur Informationen sammelt, hat eine andere Risikoposition als ein System, das ein Produkt aussortiert, einen Parameter empfiehlt oder ein Datenintegritätsereignis bewertet.
Der dritte Punkt ist die Modellart. Statische, deterministische KI/ML-Modelle können in den Scope des Entwurfs fallen. Dynamische Modelle, probabilistische Outputs, generative KI und LLMs sind für kritische GMP-Anwendungen im Entwurf nicht abgedeckt. Diese Abgrenzung gehört früh in jedes AI Use Case Inventory, weil sie die weitere Validierungsstrategie begrenzt.
Der vierte Punkt ist die Daten- und Teststrategie. Training, Validierung und Test müssen sauber getrennt werden. Testdaten brauchen Repräsentativität, Subgruppenlogik, ausreichend Größe, Labelprüfung und Zugriffsschutz. Ohne diese Nachweise bleibt die Modellleistung schwer auditierbar, selbst wenn das Modell im Pilotbetrieb gut aussieht.
Verhältnis zu Annex 11 und EU AI Act
Annex 22 ergänzt Annex 11, ersetzt ihn aber nicht. Annex 11 bleibt der Rahmen für computergestützte Systeme, Validierung, Datenintegrität, Audit Trails, Security, Lieferantensteuerung und Änderungskontrolle. Annex 22 legt darauf eine KI-spezifische Schicht für intended use, Testdaten, Explainability, Confidence und Betriebskontrolle.
Der EU AI Act verfolgt eine andere Systematik. Er ordnet AI-Systeme nach sektorübergreifenden Risiken, Rollen und Pflichten. Für Pharma-Unternehmen ist deshalb ein doppeltes Mapping sinnvoll: GMP-Relevanz und Annex-22-Scope auf der einen Seite, AI-Act-Rolle und mögliche Hochrisiko-Einstufung auf der anderen Seite. Nicht jede KI in der GMP-Herstellung wird automatisch ein Hochrisiko-System nach Annex III des EU AI Act.
Prüfpfad für QA und IT-Validation
Der erste Schritt ist ein AI Use Case Inventory, wie es auch der integrierte Dossier-Workflow als erstes Artefakt vorsieht. Erfasst werden produktive Systeme, Piloten, Fachbereichstools, Skripte, SaaS-Funktionen und Anbieterfeatures, die KI oder Machine Learning nutzen. Pro Eintrag gehören intended use, Prozess, Datenklasse, GxP-Bezug, Modellart, Output-Verwendung, Anbieter und Verantwortlichkeit in die Übersicht.
Der zweite Schritt ist die Scope-Prüfung gegen Annex 22. Direkte Wirkung auf Patientensicherheit, Produktqualität oder Datenintegrität muss markiert werden. Zusätzlich wird festgehalten, ob das Modell statisch und deterministisch ist oder ob dynamische, probabilistische oder generative Eigenschaften vorliegen.
Der dritte Schritt ist die Dossierlücke. Für kritische GMP-Anwendungen werden intended use, Akzeptanzkriterien, Testdatenstrategie, Testdaten-Unabhängigkeit, Testplan, Explainability, Confidence-Schwellen, Change Control, Configuration Control, Performance-Monitoring und Human Review geprüft. Daraus entsteht ein priorisierter Maßnahmenplan.
Der vierte Schritt ist die Beobachtung der finalen Fassung. Der Konsultationsentwurf ist belastbarer als eine freie Marktinterpretation, aber noch kein finaler GMP-Anhang. Unternehmen können die Grundrichtung vorbereiten, müssen aber Begriffe, Übergangsfristen und Detailanforderungen gegen die finale Veröffentlichung abgleichen.