OpenAI KI-Software ChatGPT – ein Medizinprodukt?

Zugehörige Themenseiten:
Digitalisierung und Instagram

ChatGPT beantwortet auch Fragen aus dem medizinischen Bereich. Das kann auf den ersten Blick bedenklich wirken und die Frage aufwerfen, ob das KI-Tool gar als Medizinprodukt zu qualifizieren ist. Entscheidend dafür ist die Zweckbestimmung.

Von Dr. Daniel Tietjen und Ennio Schwind

ChatGPT ist in aller Munde. Es ist eine neue Form der KI, die in der Lage ist, selbständig Texte zu produzieren, Gespräche zu führen und auf beliebige Fragen stets individuell und unterschiedlich formuliert zu antworten. Dabei greift die dahinterliegende Software auf Daten zurück, die im Internet verfügbar sind und die mithilfe künstlicher Intelligenz zu den gewünschten Texten und Antworten zusammengesetzt werden. Die Antworten der Software klingen dabei fast menschlich und werden individuell produziert, was die Euphorie um ChatGPT erklärt. Neben Fragen, wie dem Vorschlag zu einem Einladungstext zum 50. Geburtstag, dem Kündigungsschreiben für das Fitnessstudio oder einem schnellen Nudelrezept, beantwortet ChatGPT auch Fragen aus dem medizinischen Bereich, was rechtlich bedenklich erscheint.

ChatGPT: „Es tut mir leid, dass Sie Kopfschmerzen haben“

Stellt man ChatGPT etwa die Frage „Ich habe Kopfweh. Was soll ich machen?“, so gibt ChatGPT folgende Antwort: 

„Es tut mir leid zu hören, dass Sie Kopfschmerzen haben. Hier sind einige Tipps, die Ihnen helfen könnten:

1. Nehmen Sie ein Schmerzmittel: Falls Sie keine medizinischen Bedenken haben, können Sie ein Schmerzmittel wie Paracetamol oder Ibuprofen einnehmen. Achten Sie jedoch darauf, die empfohlene Dosierung nicht zu überschreiten. (…)“.

Die Software schlägt somit eine konkrete Behandlung für die behaupteten Kopfschmerzen vor, sodass sich die Frage stellt, ob ChatGPT womöglich als Medizinprodukt zu qualifizieren ist.

Konsequenzen einer möglichen Einordnung von ChatGPT als Medizinprodukt

Die Konsequenz einer Einstufung von ChatGPT als Medizinprodukt wäre, dass ChatGPT ein Konformitätsbewertungsverfahren gemäß der EU-Verordnung 2017/745 (kurz: „MDR“) durchlaufen müsste. Dieses ist grundsätzlich unter Zuhilfenahme einer Benannten Stelle durchzuführen. Eine Ausnahme hiervon existiert lediglich für Medizinprodukte der MDR-Risikoklasse I, bei welchen die Hersteller die Konformitätsbewertungsverfahren selbst durchführen können. Bei Software, die als Medizinprodukt zu qualifizieren ist, ist jedoch in der Regel die MDR-Risikoklasse IIa einschlägig, da der für die Klassifizierung von Medizinprodukten maßgebliche Anhang VIII MDR (Regel 11) bestimmt, dass „Software, die dazu bestimmt ist, Informationen zu liefern, die zu Entscheidungen für diagnostische oder therapeutische Zwecke herangezogen werden“ zur Klasse IIa gehört. Dies wird in der Regel der Fall sein.

Bleibt die Frage zu beantworten, ob ChatGPT unter den Begriff des Medizinprodukts gemäß der MDR fällt. Die Definition eines Medizinprodukts findet sich vorliegend in Art. 2 Nr. 1 MDR. Dieser stellt dabei ausdrücklich klar, dass auch Software ein Medizinprodukt darstellen kann. Gemäß Art. 2 Nr. 1 MDR ist ein Medizinprodukt u. a. „(…) eine Software, (…) [die] dem Hersteller zufolge für Menschen bestimmt ist und allein oder in Kombination einen oder mehrere der folgenden spezifischen medizinischen Zwecke erfüllen soll: Diagnose, Verhütung, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung von Krankheiten (…).“ Von dieser Definition erfasst ist sogenannte „Stand-alone Software“, also „eigenständige Software“, die – wie ChatGPT – ohne zugehörige Hardware in Verkehr gebracht wird. Subsumiert man nun die von ChatGPT auf die Anfrage wegen Kopfschmerzen gegebene Antwort unter die Begriffsdefinition des Art. 2 Nr. 1 MDR, so stellt man fest, dass die Auskunft von ChatGPT jedenfalls zur „Behandlung oder Linderung von Krankheiten“ i.S.d. Art. 2 Nr. 1 MDR geeignet ist. Die Definition des Medizinprodukts scheint somit auf den ersten Blick erfüllt zu sein. Jedoch enthält Art. 2 Nr. 1 MDR noch eine weitere Komponente: Die sogenannte „Zweckbestimmung“. So handelt es sich nämlich nur dann um ein Medizinprodukt i.S.d. Art. 2 Nr. 1 MDR, wenn das Produkt (hier die Software ChatGPT) vom Hersteller (hier also OpenAI) dazu bestimmt ist, einen spezifischen medizinischen Zweck zu erfüllen. Im Unterschied zum Arzneimittelrecht, das grundsätzlich die nach der Verkehrsanschauung objektive Zweckbestimmung betrachtet, ist im Rahmen von Medizinprodukten die vom Hersteller vorgegebene subjektive Zweckbestimmung maßgeblich. Vereinfacht gesagt sind Medizinprodukte grundsätzlich nur dann Medizinprodukte, wenn der Hersteller ihnen diese Eigenschaft auch zuschreibt.

Zweckbestimmung entscheidet über Einstufung als Medizinprodukt

In welchem Kontext der Hersteller dem Medizinprodukt seine Zweckbestimmung zuschreiben kann, ergibt sich wiederum aus der MDR. Diese definiert den Begriff der Zweckbestimmung in Art. 2 Nr. 12 MDR als „die Verwendung, für die ein Produkt entsprechend den Angaben des Herstellers auf der Kennzeichnung, in der Gebrauchsanweisung oder dem Werbe- oder Verkaufsmaterial bzw. den Werbe- oder Verkaufsangaben und seinen Angaben bei der klinischen Bewertung bestimmt ist“. Eine Einschränkung der rein subjektiven Zweckbestimmung wird jedoch in denjenigen Fällen vorgenommen, in denen der vom Hersteller bestimmte Zweck wissenschaftlich schlicht nicht haltbar ist. Ein Hersteller soll die Eigenschaft als Medizinprodukt und das damit einhergehende Konformitätsbewertungsverfahren schließlich nicht dadurch umgehen können, dass er eine Zweckbestimmung formuliert, die offensichtlich wissenschaftlich nicht mit der Funktion des Produkts übereinstimmt.

Wird die Grenze der wissenschaftlichen Haltbarkeit überschritten?

Im vorliegenden Fall sind auf den ersten Blick keine Anhaltspunkte dafür ersichtlich, dass OpenAI z.B. im Rahmen seines Werbematerials den Zweck von ChatGPT auf die Diagnose, Vorbeugung, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung von Krankheiten ausgerichtet hätte, wie es Art. 2 Nr. 1 MDR verlangt. Weder auf der Website von OpenAI noch an anderer Stelle lassen sich derartige Aussagen des Herstellers finden. Dort lässt sich lediglich die Aussage finden, dass ChatGPT dazu konzipiert wurde, aus diversen im Internet verfügbaren Textbausteinen selbst neue Texte zu generieren. Die für die Einstufung als Medizinprodukt erforderliche medizinische Zweckbestimmung durch den Hersteller ist daher bei ChatGPT grundsätzlich nicht gegeben, was gegen eine Einstufung als Medizinprodukt spricht. Angesichts der Antworten auf die Anfrage wegen Kopfschmerzen liegen jedoch Anhaltspunkte dafür vor, dass ChatGPT über den vom Hersteller bestimmten Zweck der reinen Textgenerierung hinaus auch tatsächlich medizinischen Rat erteilen kann. Ob damit aber bereits die Grenze der „wissenschaftlichen Haltbarkeit“ der Zweckbestimmung überschritten ist, wird im Zweifelsfall wohl gerichtlich geklärt werden müssen.