KI im Betrieb: der Rechtsrahmen für Pharma-Unternehmen

Betrieblicher KI-Einsatz meint hier die Nutzung bereitgestellter KI-Werkzeuge durch Mitarbeiter im Arbeitsalltag: Texterstellung, Recherche, Auswertung, Codeunterstützung. Rechtlich relevant ist für diesen Einsatz von Technologie keine einzelne Richtlinie oder kein einzelnes Gesetz, sondern ein ganzes Bündel: DSGVO, EU AI Act, Geschäftsgeheimnisschutz, Urheberrecht und Arbeitsrecht. Seit dem 02.08.2026 gelten nach der Verordnung (EU) 2024/1689 die Transparenzpflichten nach Art. 50. Die Pflichten für Hochrisiko-Systeme sind durch den Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27.07.2026) verschoben worden: Anhang-III-Systeme fallen ab dem 02.12.2027 darunter, produktrechtlich eingebettete Systeme nach Art. 6 Abs. 1 ab dem 02.08.2028. Die Einordnung dazu steht im Beitrag EU AI Act nach dem Digital Omnibus. Für Pharma-Unternehmen kommt eine Ebene hinzu, die keine Rechtsfrage ist: die GMP-Bewertung nach Annex 11 und dem Annex-22-Entwurf. Die Themen QA, Datenschutz, Recht und KI sollten deshalb zusammen gedacht werden. Dieser Beitrag fasst sie in einem Raster zusammen.

Dieser Beitrag ist eine fachliche Einordnung mit Redaktionsstand Sommer 2026 und keine Rechtsberatung. Die Würdigung des Einzelfalls bleibt Aufgabe von Datenschutzbeauftragten und mandatierter Rechtsberatung.

Bereitstellung als Voraussetzung

Der laufende Einsatz setzt eine geordnete Bereitstellung voraus. Dazu gehören Business-, Enterprise- oder API-Tarife mit einem Auftragsverarbeitungsvertrag (AVV) nach Art. 28 Abs. 3 DSGVO, ein vertraglicher Trainings-Ausschluss, eine geprüfte Sub-Prozessoren-Liste und bei US-Anbietern die Absicherung des Drittlandtransfers über Standardvertragsklauseln (Beschluss (EU) 2021/914) samt Transfer Impact Assessment. Fehlen AVV, Trainings-Ausschluss oder kontrollierte Mandanten- und Speicherregeln, scheiden dienstliche Inhalte ohne Einzelfallfreigabe aus. Diese Aspekte werden im Folgenden vorausgesetzt.

DSGVO im laufenden Einsatz

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO. Für interne Produktivitätswerkzeuge ist dies das berechtigte Interesse (Art. 6 Abs. 1 lit. f), dokumentiert über eine Interessenabwägung (Legitimate Interest Assessment, LIA). Eine Einwilligung ist im Beschäftigtenkontext wegen des Abhängigkeitsverhältnisses als Hauptgrundlage ungeeignet. Die Grundlage gilt je Verarbeitungstätigkeit, etwa "Texterstellung und Recherche", nicht je Tool, und wird im Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO dokumentiert.

Die Datenschutz-Folgenabschätzung (Data Protection Impact Assessment, DSFA) nach Art. 35 DSGVO knüpft an ein voraussichtlich hohes Risiko an, nicht am Begriff KI selbst. Zwei Kriterien entscheiden über die Pflicht. Die Muss-Liste der Datenschutzkonferenz (DSK, v1.1 vom 17.10.2018) macht eine DSFA verbindlich, wenn KI "zur Steuerung einer Interaktion mit dem Betroffenen oder zur Bewertung persönlicher Aspekte" eingesetzt wird (Nr. 11), daneben erfassen Nr. 7 bis 9 Personenbewertung, Beschäftigtendaten zur Leistungsbewertung und Persönlichkeitsprofile. Ergänzend gilt die Zwei-Kriterien-Regel aus den DSFA-Leitlinien WP248: Treffen mindestens zwei von neun Kriterien zu, etwa Bewertung, sensible Daten oder ein innovativer Einsatzzweck, ist von einer DSFA-Pflicht auszugehen. Reine Assistenznutzung ohne Personenbewertung bleibt unter dieser Schwelle. Die Schwellwertanalyse selbst gehört gleichwohl dokumentiert, weil die Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO) den Nachweis verlangt.

Darüber hinaus verlangt Art. 32 DSGVO technische und organisatorische Maßnahmen auf dem Stand der Technik, ausgerichtet auf das Risiko, u.a. ein Zugangs- und Rechtekonzept, definierte Speicherdauer von Prompts und Chat-Verläufen und ein Löschkonzept. Die Datenschutzhinweise sind nach Art. 13 und 14 DSGVO um die KI-Verarbeitung zu ergänzen, einschließlich des Zusatzes, dass keine ausschließlich automatisierte Einzelentscheidung nach Art. 22 DSGVO erfolgt. Die DSK-Orientierungshilfe "Künstliche Intelligenz und Datenschutz" (06.05.2024) führt diese Pflichten entlang des Lebenszyklus von der Auswahl bis zum Betrieb aus.

Pharmakovigilanz- und klinische Daten

Gesundheitsdaten unterliegen nach Art. 9 Abs. 1 DSGVO einem Verarbeitungsverbot mit abschließenden Ausnahmen. Für Pharma-Unternehmen ist das der größte Unterschied zum allgemeinen Büroeinsatz: Einzelfallberichte aus der Pharmakovigilanz (Individual Case Safety Reports, ICSRs), Daten aus klinischen Prüfungen und Anfragen an Medical Information enthalten Gesundheitsdaten identifizierbarer Personen. Auch pseudonymisierte Prüfungsdaten bleiben personenbezogen (Art. 4 Nr. 1 und 5 DSGVO), solange eine Re-Identifizierung über den Prüfarzt möglich bleibt.

Die Pflichtverarbeitung in den dafür vorgesehenen Systemen, etwa der Safety-Datenbank mit Meldung an EudraVigilance, stützt sich auf Art. 9 Abs. 2 lit. i DSGVO (öffentliches Interesse im Bereich der öffentlichen Gesundheit, einschließlich der Qualität und Sicherheit von Arzneimitteln), bei klinischer Forschung auch auf lit. j. Diese rechtliche Grundlage wandert jedoch nicht automatisch mit, wenn dieselben Daten in ein Allzweck-KI-Tool eingegeben werden, denn sie ist eine neue Verarbeitung, die eine eigene Ausnahme oder Grundlage und nach der DSK-Muss-Liste eine DSFA benötigt. Die EMA verlangt in ihrem Reflection Paper zum KI-Einsatz im Arzneimittel-Lebenszyklus (09.09.2024) zudem einen risikobasierten, menschlich beaufsichtigten Einsatz gerade in Pharmakovigilanz-Prozessen. Praktisch heißt das: Gesundheits-, Patienten- und klinische Daten gehören in der KI-Arbeitsanweisung auf eine Sperrliste; Freigaben laufen nur über eine Einzelfallprüfung mit Datenschutz und Pharmakovigilanz-Verantwortlichen (EU-QPPV).

EU AI Act aus Betreibersicht

Beim Einsatz fremder KI-Systeme ist ein Pharma-Unternehmen Betreiber (Deployer) nach Art. 3 Nr. 4 EU AI Act, nicht Anbieter. Die Pflichten greifen gestaffelt. Seit dem 02.02.2025 gelten die verbotenen Praktiken (Art. 5) und die Kompetenzpflicht nach Art. 4, die der Digital Omnibus von der Sicherstellung bestimmter Kompetenzniveaus auf die Förderung der Kompetenzentwicklung zurückgenommen hat; wie dieser Nachweis rollenbezogen in die GxP-Schulungsmatrix passt, beschreibt der Beitrag "AI Literacy nach Art. 4 EU AI Act". Seit dem 02.08.2025 gelten die Regeln zu GPAI-Modellen und Governance, seit dem 02.08.2026 die Transparenzpflichten nach Art. 50. Für Betreiber sind diese eng geschnitten: Offenzulegen sind Deepfakes, also KI-erzeugte oder -manipulierte Bild-, Audio- oder Videoinhalte mit Realbezug, sowie KI-generierter Text zu Angelegenheiten öffentlichen Interesses, sofern keine natürliche Person die redaktionelle Verantwortung trägt. Eine Pflicht, jeden KI-Text zu kennzeichnen, besteht nicht; menschlich geprüfte Arbeitsergebnisse sind nicht erfasst.

Ein Hochrisiko stellt eine Einsatzklassifikation nach Anhang III dar und ist keine Frage der Branche oder der Datenart. Eine LLM-Nutzung für Recherche, Textentwürfe oder Wissensmanagement wird nicht dadurch hochriskant, dass sie in einem Pharma-Unternehmen stattfindet. Anhang III erreicht Pharma-Unternehmen durch andere Wege: bei Beschäftigungs- und Bewerbermanagement-Systemen (Anhang III Nr. 4), etwa KI-gestütztem CV-Screening oder Leistungsbewertung. Produktnahe KI, die als Sicherheitskomponente unter Harmonisierungsrecht wie MDR oder IVDR fällt, folgt dem Pfad des Art. 6 Abs. 1 und wird erst ab dem 02.08.2028 voll pflichtig. Die Fristenlage und die dafür sinnvolle Dokumentation behandelt "EU AI Act nach dem Digital Omnibus". Fällt ein System unter Hochrisiko, treffen den Betreiber die Pflichten des Art. 26: Nutzung nach Betriebsanleitung, wirksame menschliche Aufsicht, Kontrolle der Eingabedaten und Monitoring und Aufbewahrung der Protokolle.

Rezepturen und Dossiers in Prompts

Das GeschGehG schützt vertrauliches Wissen nur, solange sein Inhaber "den Umständen nach angemessene Geheimhaltungsmaßnahmen" trifft (§ 2 Nr. 1 lit. b). Der Schutz ist damit eine Definitionsfrage, und die KI-Nutzung berührt sie unmittelbar, weil die Eingabe in ein externes Tool eine Weitergabe an einen Dritten ist. Ein geprüfter Enterprise-Tier mit AVV, Trainings-Ausschluss und Vertraulichkeitszusage ist selbst eine angemessene Maßnahme und erhält den Geheimnisstatus. Die Eingabe in einen ungesicherten Consumer-Account kann ihn dagegen zerstören, mit Folgen für spätere Unterlassungs- und Schadensersatzansprüche (§§ 6 ff. GeschGehG).

Die Pharma-Dimension dieses Punkts ist größer als in anderen Branchen, weil das wettbewerbskritische Wissen als Text vorliegt und damit sofort KI-tauglich ist: Rezepturen und Herstellungsparameter, Prozessfenster aus der Verfahrensentwicklung, Analysenmethoden, Inhalte des Zulassungsdossiers (etwa CTD Modul 3) sowie Konditionen aus CDMO- und Lizenzverträgen. Bei fremden Geheimnissen, etwa von Entwicklungspartnern oder Lizenzgebern, kommt § 4 Abs. 2 GeschGehG hinzu: Ein Offenlegen unter Verstoß gegen vertragliche Nutzungsbeschränkungen ist rechtswidrig. Kooperations- und Geheimhaltungsverträge gehören deshalb vor der ersten Eingabe darauf geprüft, ob sie die Verarbeitung durch externe KI-Dienste beschränken, etwa über Auftragsverarbeiter-Kataloge oder EU-Only-Klauseln.

Urheberrecht am KI-Output

Rein KI-generierte Ergebnisse begründen nach deutschem Recht kein eigenes Urheberrecht, weil § 2 Abs. 2 UrhG eine persönliche geistige Schöpfung verlangt. Für den betrieblichen Einsatz hat das zwei Seiten. Erstens kann das Unternehmen KI-generierte Texte, Grafiken oder Code in eigenen Dokumenten verwenden, ohne selbst ein Schutzrecht daran zu erwerben; die Nutzungsbedingungen der Anbieter räumen die Verwendung des Outputs vertraglich ein, ein gesetzliches Schutzrecht entsteht dadurch aber nicht. Wer Exklusivität braucht, erreicht sie über menschliche Bearbeitung mit eigener Schöpfungshöhe oder über Geheimhaltung. Zweitens kann Output Rechte Dritter verletzen, wenn er geschützte Inhalte aus den Trainingsdaten reproduziert. Vor der Übernahme in kundengerichtete oder veröffentlichte Dokumente gehört der Output deshalb auf erkennbare Übernahmen mit derselben Sorgfalt wie zugelieferte menschliche Texte geprüft.

Weisung und Schulung

Das operative Bindeglied zwischen den Rechtsgebieten ist die KI-Arbeitsanweisung, gestützt auf das Weisungsrecht des Arbeitgebers (§ 106 GewO). Die Arbeitsanweisung regelt freigegebene Tools und Accounts, gesperrte Datenkategorien, Prüfpflichten vor der Verwendung von KI-Ergebnissen und Meldewege bei Verdachtsfällen. Die Quittierung durch die Mitarbeiter macht die Regeln nachweisbar und arbeitsrechtlich durchsetzbar. Als Referenzmodell für den Aufbau eignet sich die GDD-Musterrichtlinie zum Einsatz Künstlicher Intelligenz (Mai 2025), die Freigabeprinzip, Verbot privater Accounts, Ergebnisverantwortung und Kennzeichnung als Bausteine vorstrukturiert.

Daneben stehen zwei Pflichten. Die Schulung nach Art. 4 EU AI Act verlangt rollenbezogene KI-Kompetenz und lässt sich in die bestehende GxP-Schulungsmatrix integrieren statt als Parallelsystem zu laufen. Und wo ein Betriebsrat besteht, greift die Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG, weil KI-Tools mit Nutzungsprotokollen zur Verhaltens- und Leistungskontrolle objektiv geeignet sind; eine Betriebsvereinbarung KI kann zugleich als Rechtsgrundlage für Beschäftigtendaten dienen (Art. 88 DSGVO, § 26 Abs. 4 BDSG).

Rechtliche Zulässigkeit ersetzt keine GMP-Bewertung

Alle bisherigen Prüfungen beantworten die Frage, ob eine KI-Nutzung rechtlich zulässig ist. Für Pharma-Unternehmen folgt daraus noch nicht, dass der Output in regulierten Prozessen verwendet werden darf. Sobald ein KI-Ergebnis GxP-Wirkung hat, etwa in der Abweichungsbewertung, der Chargendokumentation oder der Sichtprüfung, greift zusätzlich die GMP-Logik: Annex 11 für computergestützte Systeme und der Annex-22-Konsultationsentwurf der EU-Kommission (07.07.2025) für KI/ML-Modelle in kritischen GMP-Anwendungen. Der Entwurf verlangt eine dokumentierte Intended-Use-Beschreibung, vorab genehmigte Akzeptanzkriterien und unabhängige Testdaten; generative KI und LLMs sieht er für kritische GMP-Anwendungen nicht vor. Eine datenschutzrechtlich einwandfreie LLM-Nutzung kann also GMP-seitig trotzdem ausscheiden. Eine Einordnungshilfe für diese zweite Prüfung bietet das Drei-Zonen-Modell für KI-Use-Cases in GMP-Prozessen.

Prüfreihenfolge für neue Use Cases

Die vier Prüfungen bauen aufeinander auf und lassen sich als festes Raster je Use Case dokumentieren:

Die Reihenfolge ist inhaltlich begründet: Schritt 1 und 2 entscheiden, ob die Daten überhaupt in das Tool dürfen; Schritt 3 und 4 entscheiden, was mit dem Output geschehen darf. Die Arbeitsanweisung übersetzt die Ergebnisse in Regeln, die Mitarbeitende ohne juristische Vorprüfung anwenden können.

Fünf Schritte für den Einstieg

1. KI-Use-Cases inventarisieren. Alle aktiven und geplanten Nutzungen erfassen, einschließlich Copilot-Instanzen, LLM-APIs und KI-Funktionen im eQMS.
2. Datenschutz-Grundgerüst dokumentieren. Je Verarbeitungstätigkeit Rechtsgrundlage, VVT-Eintrag und DSFA-Schwellwertanalyse anlegen.
3. Sperrliste festlegen. Gesundheits-, Patienten- und klinische Daten sowie geheimnisrelevante Inhalte wie Rezepturen und Dossier-Auszüge für Allzweck-Tools sperren und Freigabewege definieren.
4. Arbeitsanweisung in Kraft setzen und quittieren lassen. Tools, Datenregeln, Output-Prüfpflicht, Meldewege; die Schulung nach Art. 4 EU AI Act daran anbinden.
5. GxP-Schnittstelle regeln. Für jeden Use Case dokumentieren, ob der Output GxP-Wirkung hat, und die betroffenen Fälle in die Annex-11/22-Bewertung überführen.

Dieser Beitrag ordnet die Rechtslage mit Redaktionsstand Sommer 2026 fachlich ein; er stellt keine Rechtsberatung dar. Verbindliche Festlegungen, etwa zur Rechtsgrundlage einzelner Verarbeitungen oder zur Auslegung von Kunden- und Kooperationsverträgen, gehören zu Datenschutzbeauftragten und mandatierter Rechtsberatung.