Wenn niemand hinschaut:

Ein FDA Warning Letter vom April 2026 –
und was er für Ihre Prozesse bedeutet

Im April 2026 verschickte die FDA einen Warning Letter an Purolea Cosmetics Lab in Livonia, Michigan. Der Grund: Das Unternehmen nutzte KI-Agenten zur Erstellung von Drug Specifications und Produktionsprotokollen – ohne dass ein qualifizierter Mensch die Outputs kontrollierte. Das KI-System übersah kritische Prozessvalidierungsanforderungen. Die Konsequenz: Produktionsstopp.

Die FDA nannte es „blinde Nutzung“ von KI. Was sie einforderte, ist eigentlich selbstverständlich: ein Mensch, der hinschaut, bevor Dokumente ins System gehen.

Das ist kein Pharma-Problem. Und es ist kein reines FDA-Thema.

KI ist im QMS längst Realität

Viele Unternehmen experimentieren mit KI-Tools – ChatGPT für E-Mails, für Präsentationen, zur Dokumenterstellung. Das ist normal und grundsätzlich nicht problematisch.

Das Problem liegt woanders: Die meisten Unternehmen wissen nicht genau, welche KI-Tools intern genutzt werden, wer sie nutzt und wofür. Sie tauchen weder in der Softwareinventarliste auf, noch wurde das Risiko für den jeweiligen Use-Case bewertet.

Wenn KI-generierte Inhalte direkt in technische Dokumentation, Spezifikationen oder Produktcode gelangen – ohne Review – wird daraus ein Compliance-Risiko.

Nicht jede KI-Nutzung ist gleich

Der entscheidende Unterschied ist nicht das Tool. Es ist der Verwendungszweck.

KI, die eine interne E-Mail verbessert oder eine Präsentation strukturiert, ist birgt nur ein geringes Risiko. Im Gegensatz zu KI, die Risikoanalyseergebnisse formuliert, technische Spezifikationen erstellt oder Teile der Technischen Dokumentation generiert.

Das Risiko entsteht dort, wo KI-generierte Inhalte ohne Prüfung ins QMS oder in Produkte gelangen. Dort hört Experimentieren auf und fängt Governance an.

Was „Human-in-the-loop“ konkret bedeutet

Die FDA verbietet KI nicht. Sie erwartet Kontrolle darüber, wie KI eingesetzt wird.

Das bedeutet in der Praxis:

KI macht Vorschläge. Ein qualifizierter Mitarbeiter bewertet, korrigiert und genehmigt – bevor ein Dokument das QMS erreicht. Und es gibt einen vollständigen Audit Trail: Wer hat was geprüft? Wer hat freigegeben?

Das ist kein großer Aufwand. Es ist professionelle Praxis.

Was die ISO 13485 bereits bietet

Hier die gute Nachricht: Die ISO 13485 von 2015 bietet bereits ein solides Rahmenwerk für den Umgang mit KI-Tools – auch wenn KI darin nicht explizit genannt wird.

Software-Validierung, Risikomanagement, Kompetenzanforderungen: Das alles ist reguliert. KI-Tools fügen sich in diesen Rahmen ein – wenn man sie dort auch einordnet.

Ergänzend dazu verpflichtet Artikel 4 des EU AI Acts Unternehmen, die Kompetenz der KI-Nutzer sicherzustellen. Auch das ist keine neue Anforderung.

Der schnellste erste Schritt

Machen Sie eine Bestandsaufnahme. Welche KI-Tools werden im Unternehmen genutzt? Von wem? Wofür? Und gelangen die Outputs direkt ins QMS oder in Produkte?

Diese Übersicht dauert keine Woche. Sie zeigt aber sofort, wo Handlungsbedarf besteht, wo Monitoring ausreicht und wo neue Prozesse nötig sind.

Wer das jetzt klärt, steht bei einem Audit deutlich ruhiger da. Die Frage „Können Sie zeigen, dass dieses Dokument vor Verwendung geprüft wurde?“ kommt früher, als viele denken.

Was das kostet – und was es kostet, es nicht zu tun

KI-Governance im QMS aufzusetzen ist kein großes Projekt. Es ist eine Frage der Struktur: Wer nutzt was? Mit welchem Risiko? Welche Kontrollen braucht es?

Ein KI-generierter Fehler in technischer Dokumentation oder Produktcode, der unentdeckt bleibt, kann zu Rückrufen, Produktionsstopps oder regulatorischen Maßnahmen führen.

Das zu verhindern ist nicht teuer. Das nicht zu verhindern kann sehr teuer werden.

Sie möchten KI-Use-Cases in Ihrem Unternehmen strukturiert erfassen und bewerten? Wir helfen Ihnen dabei, den Überblick zu gewinnen und die richtigen Maßnahmen zu priorisieren.