Ein Nachweis, vier Regelwerke: die Dokumentenlandkarte für KI-Systeme im GxP-Umfeld

Ein KI-gestütztes System in einem GxP-Prozess steht unter vier Werken zugleich, und diese vier unterscheiden sich zuerst in einem Punkt, der die gesamte Dokumentation bestimmt: in ihrer Verbindlichkeit. Annex 11 des EU-GMP-Leitfadens gilt seit der Revision von Januar 2011 und ist Prüfmaßstab jeder Inspektion. Der Annex-22-Entwurf liegt seit dem 7. Juli 2025 als Konsultationsentwurf der EU-Kommission vor, die Konsultation endete am 7. Oktober 2025, eine finale Fassung steht aus. Die GAMP-Leitfäden von ISPE sind Industriepraxis ohne Rechtsnormcharakter. Die Verordnung (EU) 2024/1689 (EU AI Act) gilt unmittelbar, ihre Hochrisiko-Pflichten allerdings erst ab dem 02.12.2027 für Systeme nach Anhang III und ab dem 02.08.2028 für produktintegrierte Systeme nach Anhang I; der Digital Omnibus (Verordnung (EU) 2026/1744) hat diese Termine am 27.07.2026 neu gesetzt.

Aus dieser Ungleichheit folgt die praktische Frage. Sie lautet nicht, welches Werk anzuwenden ist, denn alle vier sind es in ihrer jeweiligen Reichweite. Sie lautet, welches Dokument im Dossier welche Anforderung bedient und an welchen Stellen ein zweites Dokument unvermeidlich wird. Die begriffliche Abgrenzung der Regelwerke behandeln das Drei-Zonen-Modell und der Rechtsrahmen-Beitrag; dieser Beitrag setzt eine Ebene tiefer an, bei den Artefakten.

Die Landkarte

Ein Hinweis zur GAMP-Spalte: Die Nummerierung "Grundbaustein 1" bis "Grundbaustein 6" ist keine offizielle ISPE-Terminologie, sondern eine redaktionelle Zuordnung dieses Beitrags. Sie ordnet die Dossier-Bestandteile aus GAMP 5 Second Edition und dem AI Guide in die Reihenfolge, in der sie im Validierungslebenszyklus anfallen, damit sich die Zeilen der Tabelle vergleichen lassen. Wer sich gegenüber einem Auditor darauf beruft, zitiert diese Landkarte, nicht GAMP.

Artefakt	Annex 11	Annex-22-Entwurf	GAMP 5 und AI Guide	EU AI Act
Use-Case-Inventar	implizit über Systeminventar	Voraussetzung der Scope-Prüfung	erster Dossierbaustein	Grundlage der Rollen- und Risikoklärung
Systemdefinition, intended use	Ziff. 4 Validierung	eigener Abschnitt, Verantwortung beim Process SME	Grundbaustein 1	Zweckbestimmung als Anknüpfung
Risikobewertung	Ziff. 1 Risikomanagement	risikobasierte Tiefe	Grundbaustein 2, CSA-Evidenzlogik	Einstufung nach Anhang III
Anforderungen und Traceability	Ziff. 4	über Akzeptanzkriterien	Grundbaustein 3	keine
Lieferantenbewertung	Ziff. 3 Lieferanten	Anbietertransparenz	Grundbaustein 4	Rollenbestimmung Anbieter oder Betreiber
Testdatenstrategie und Testbericht	Ziff. 4	Kern: Repräsentativität, Unabhängigkeit, Labelprüfung	AI-Guide-Ergänzung	keine
Validierungsplan und -bericht	Ziff. 4, Annex 15	Testdurchführung, Explainability, Confidence	Grundbaustein 5	keine
Change und Configuration Control	Ziff. 10	vor Deployment verpflichtend	Grundbaustein 6	Substanzielle Änderung mit Rollenwechsel
Betriebsüberwachung	Ziff. 11 Periodic Evaluation	Performance, Sample Space, Drift-Signale	AI-Guide-Ergänzung	Überwachungs- und Meldepflicht
Protokolle und Aufzeichnungen	Ziff. 9 Audit Trail	Aufzeichnungen des Human Review	Grundbaustein 6	Aufbewahrung der Systemprotokolle
Menschliche Aufsicht	Ziff. 2 Personal	Human-in-the-loop als Kontrollelement	Review-Barriere im Dossier	personelle Zuweisung mit Kompetenz und Befugnis
Schulungsnachweis	Ziff. 2	Qualifikation für nicht-kritische Nutzung	rollenbezogen	KI-Kompetenz nach Art. 4

Die Spalte zum EU AI Act trägt mehrere Leerstellen, und das ist der erste belastbare Befund. Die dort stehenden Pflichten setzen voraus, dass ein Hochrisiko-System vorliegt, und dorthin führen zwei getrennte Wege. Der erste ist die Einsatzklassifikation nach Anhang III, die Beschäftigung, kritische Infrastruktur und bestimmte Zugangs- und Bewertungsentscheidungen erfasst, die Arzneimittelherstellung aber nicht als eigene Kategorie führt. Der zweite läuft über Art. 6 Abs. 1: KI als Produkt oder als Sicherheitskomponente eines Produkts unter einem der in Anhang I genannten Harmonisierungsrechtsakte, sofern eine Konformitätsbewertung durch Dritte erforderlich ist. Für Pharma-Unternehmen wird dieser zweite Weg an der Medizinprodukte-Schnittstelle relevant, etwa bei Kombinationsprodukten.

Trifft keiner der beiden Wege zu, bleiben aus der Verordnung die Kompetenzpflicht nach Art. 4 und die Transparenzpflichten nach Art. 50. Je nach Rolle, Systemtyp und eingesetztem Modell mit allgemeinem Verwendungszweck können weitere Bestimmungen hinzukommen; die Spalte ist deshalb als Einstieg zu lesen, nicht als abschließende Pflichtenliste. Die GMP-Seite bleibt von alledem unberührt und trägt in diesen Fällen die gesamte Last.

Vier Artefakte aus einer Quelle

Vier Artefakte lassen sich aus einer Quelle bedienen, ohne dass ein Werk zu kurz kommt.

Die Systemdefinition mit intended use ist das tragende Beispiel. Annex 11 verlangt sie als Grundlage der Validierung, der Annex-22-Entwurf macht daraus einen eigenen Abschnitt mit erweitertem Inhalt, GAMP 5 führt sie als ersten Grundbaustein, und der AI Act knüpft seine Zweckbestimmung daran an. Eine Beschreibung, die Eingabedaten, übliche und seltene Varianten, Grenzen des Sample Space, mögliche Fehleingaben und Bias-Risiken enthält, erfüllt alle vier Ansprüche. Die Verantwortung für ihre fachliche Angemessenheit weist der Annex-22-Entwurf ausdrücklich dem Process Subject Matter Expert zu, nicht der IT.

Die Risikobewertung folgt derselben Logik. Annex 11 verlangt Risikomanagement über den Lebenszyklus, die CSA-Evidenzlogik leitet daraus die Testtiefe ab, der Annex-22-Entwurf staffelt seine Anforderungen nach Kritikalität. Eine Bewertung, die je Funktion die Wirkung auf Patientensicherheit, Produktqualität und Datenintegrität festhält, trägt alle drei. Die AI-Act-Einstufung nach Anhang III ist dagegen eine eigenständige Prüfung mit eigener Systematik und gehört als separates Feld in dieselbe Tabelle, nicht in einen zweiten Bericht.

Change und Configuration Control decken sich weitgehend. Ziffer 10 von Annex 11 verlangt Änderungssteuerung, der Annex-22-Entwurf verlangt, dass Modell, System und Prozess vor dem Deployment unter Change und Configuration Control stehen. Ein Verfahren genügt, sofern es Modellversionen als eigenen Konfigurationsgegenstand führt.

Die Lieferantenbewertung schließlich bedient Ziffer 3 von Annex 11 und den vierten GAMP-Grundbaustein aus derselben Akte, ergänzt um die Anbietertransparenz, die der AI Guide für Modellherkunft und Modelländerungen verlangt.

Zwei Artefakte mit KI-Zusatz

Zwei Artefakte existieren bereits, brauchen aber einen KI-spezifischen Zusatz, der in klassischen Dossiers fehlt.

Der Validierungsbericht trägt bei KI-Systemen eine zusätzliche Schicht: Akzeptanzkriterien, die vor dem Test dokumentiert und genehmigt wurden, die Testdatenstrategie samt Nachweis der Unabhängigkeit von Training und Validierung, die Ergebnisse erklärender Verfahren, sofern anwendbar, und die Festlegung von Confidence-Schwellen. Der Annex-22-Entwurf geht bei der Testdaten-Unabhängigkeit bis in die Organisation und erwartet, dass Personen mit Testdatenzugriff nicht unkontrolliert zugleich an Training und Validierung desselben Modells arbeiten. Diese Trennung ist im klassischen Validierungsdossier nicht vorgesehen und muss ergänzt werden.

Die Betriebsüberwachung verschiebt sich von der periodischen Bewertung nach Ziffer 11 zu einer laufenden. Überwacht werden Modellleistung und der Bereich der tatsächlich auftretenden Eingaben, ergänzt um definierte Drift-Signale mit festgelegter Reaktion. Ein jährlicher Periodic Review erfasst das nicht.

Drei Nachweise in doppelter Ausführung

An drei Stellen laufen die Anforderungen so weit auseinander, dass ein Dokument nicht beide bedient. Diese drei sind der eigentliche Ertrag der Landkarte.

Protokolle. Der Audit Trail nach Ziffer 9 von Annex 11 dokumentiert Änderungen an GMP-relevanten Daten, richtet sich an das Inspektorat und folgt den Aufbewahrungsfristen für GMP-Aufzeichnungen. Die Protokollaufbewahrung nach dem AI Act zielt auf die automatisch erzeugten Systemprotokolle eines Hochrisiko-Systems, richtet sich an die Marktüberwachung und ist an eine eigene Mindestdauer gebunden. Zweck, Adressat und Frist unterscheiden sich. Wer den Audit Trail als Erfüllung beider Pflichten deklariert, hat für den zweiten Zweck weder den richtigen Inhalt noch die richtige Aufbewahrungsregel.

Menschliche Aufsicht. Der Annex-22-Entwurf behandelt die menschliche Prüfung als Kontrollelement im Prozess: Sie muss beschrieben sein, sie muss wirksam sein, und sie erzeugt eigene Aufzeichnungen. Der AI Act fragt anders. Er verlangt, dass für ein Hochrisiko-System natürliche Personen benannt werden, die über die nötige Kompetenz, Schulung und Befugnis verfügen, und dass sie die dafür erforderliche Unterstützung erhalten. Das erste ist eine Prozessbeschreibung, das zweite eine personelle Zuweisung mit Befugnisnachweis. Beide sind nötig, und das zweite hat im klassischen GMP-Dossier keinen Ort.

Eingabedaten. Der Annex-22-Entwurf betrachtet Daten vor dem Deployment, als Evidenz für die Modellleistung, mit Anforderungen an Repräsentativität, Stratifizierung, Labelprüfung und Unabhängigkeit. Der AI Act betrachtet Eingabedaten im laufenden Betrieb und verpflichtet den Betreiber, soweit er sie kontrolliert, auf ihre Eignung für die Zweckbestimmung zu achten. Das eine ist ein Testbericht, das andere eine Betriebspflicht mit eigener Nachweisführung.

Drei Fallstricke beim Zusammenlegen

Die Adressaten sind nicht dieselben. Annex 11 und Annex 22 richten sich an den Inhaber der Herstellungserlaubnis und seine GMP-Organisation. Art. 26 des AI Act richtet sich an den Betreiber im Sinne der Verordnung, also an die juristische Person, die das System unter eigener Verantwortung einsetzt. In Konzernstrukturen können das verschiedene Einheiten sein. Ein Dossier, das die Rollen gleichsetzt, benennt im Zweifel den falschen Verantwortlichen.

Der Verbindlichkeitsgrad darf nicht verschwimmen. Wer den Annex-22-Entwurf im Dossier wie geltendes Recht behandelt, dokumentiert auf Vorrat gegen einen Text, der sich noch ändern kann. Wer ihn ignoriert, verliert die Vorbereitungszeit. Der brauchbare Mittelweg ist, die Struktur des Entwurfs zu übernehmen, die Herkunft jeder Anforderung im Dossier zu kennzeichnen und die finale Fassung als Änderungsanlass vorzumerken. Dieselbe Kennzeichnung hilft bei GAMP: Der Leitfaden prägt die Praxis, ist aber keine Rechtsnorm, und eine Abweichung davon ist begründbar, eine Abweichung von Annex 11 nicht.

Eine Änderung kann die Rolle wechseln. Wer ein zugekauftes KI-System wesentlich verändert oder seine Zweckbestimmung verschiebt, kann nach der Verordnung vom Betreiber zum Anbieter werden, mit deutlich weiter reichenden Pflichten. Im GMP-Denken ist das Nachtrainieren eines Modells eine Änderung unter Change Control. Im Denken des AI Act kann derselbe Vorgang die eigene Rechtsstellung verändern. Beide Bewertungen gehören in dasselbe Change-Control-Verfahren, als zwei getrennte Prüffragen.

Vorgehen in fünf Schritten

Artefaktliste statt Werkliste anlegen. Die vorhandenen Dokumente eines Systems auflisten und je Dokument eintragen, welche Anforderung welchen Werks es bedient. Die Landkarte oben als Vorlage nutzen.
Kennzeichnung der Herkunft einführen. Je Anforderung im Dossier vermerken, aus welchem Werk sie stammt und welchen Verbindlichkeitsgrad sie hat. Das macht spätere Anpassungen an die finale Annex-22-Fassung zu einer Suchabfrage statt zu einer Neubewertung.
Die drei Divergenzen gesondert schließen. Protokollaufbewahrung, personelle Zuweisung der Aufsicht und Eingabedatenkontrolle im Betrieb als eigene Nachweise anlegen, nicht als Verweis auf bestehende GMP-Dokumente.
Rollen einmal klären. Für jedes System festhalten, welche juristische Person Betreiber ist und ob eine geplante Änderung die Rolle verschieben könnte.
Change Control erweitern. Das bestehende Verfahren um zwei Prüffragen ergänzen: Ändert sich die GMP-Bewertung, und ändert sich die Rolle nach der Verordnung?