KKC-Kolumne KI in der Pandemiebekämpfung

Neue künstliche Intelligenz soll die Systeme auf Vordermann bringen. Ob bei der Impfstoffentwicklung oder beim Management von Kranken: Die KI ist ein wichtiger Bestandteil im Kampf gegen Corona. Doch die moralischen Fragen kommen hierbei zu kurz. Die schnelle Entwicklung von zwei hochwirksamen Covid-19-Impfstoffen war nur mit KI und der weltweiten Zusammenarbeit möglich. Zu Beginn der Corona-Pandemie setzten in Europa viele Fachleute zur Bekämpfung des Virus die Hoffnung auf die Anwendung von KI-Systemen. Deren Algorithmen und neuronale Netze konnten mit viermonatigem Vorsprung mit den Daten aus China trainiert werden, um eine schnellere Diagnose zu ermöglichen oder zumindest Patientinnen und Patienten für die Triage korrekt auszuwählen. Doch Ende 2021 kamen zwei Studien zu einem vernichtenden Ergebnis: Keines der untersuchten 232- bzw. 415-KI-Prognosetools war für einen klinischen Einsatz geeignet. Vielmehr konstatierte die Bewertung falsche Annahmen und ungeeignete Daten in den Trainings- und Testphasen der Systeme, weil KI-Forschende ohne medizinisches Fachwissen oder Medizinerinnen und Mediziner ohne KI-Erfahrungen die Software entwickelt hatten. Manche KI-Tools wurden mit denselben Daten getestet, mit denen sie trainiert worden waren. Einige Ergebnisse muten recht absurd an: Bei Referenzdatensätzen mit Scans von Kindern ohne Covid-Erkrankung lernte die KI, Kinder zu erkennen, aber nicht Corona-Patienten. Ein anderer Datensatz enthielt einen Mix von Patienten und Patientinnen, die im Liegen oder im Stehen gescannt worden waren. Aus der Position der Patientenlage folgerte die KI, dass das Corona-Risiko beim Liegen am höchsten ist. Allerdings gibt es ein Forschungsgebiet, indem die KI wahre Wunder vollbracht hat. Die schnelle Entwicklung von zwei hochwirksamen Covid- 19-Impfstoffen war nur mit Künstlicher Intelligenz und der weltweiten Zusammenarbeit möglich. Googles KI-System Alpha Fold2 ermittelte die 3D-Strukturen hochkomplexer Virenproteine mit überragender Genauigkeit und Schnelligkeit. Dank dieser Erkenntnisse befinden sich derzeit mehr als 60 potenzielle Impfstoffe in der klinischen Entwicklung. Recht und Ethik der KI Komplexe moralische Fragestellungen kommen bei der rasanten KI-Entwicklung allerdings zu kurz. Wissenschaftler warnen vor rassistischer Benachteiligung durch medizinische KI. Bereits 2019 wurde in den USA festgestellt, dass ein KI-Algorithmus zur Versorgung der kränksten Menschen Afroamerikaner benachteiligt. Ein Forscherteam zeigte kürzlich, dass sich aus Röntgenbildern zu 95 Prozent die ethnische Abstammung bestimmen lässt. Der Ärzteschaft gelang es aber nicht, die anatomischen Unterschiede zu identifizieren an denen sich das neuronale Netz orientierte. In China wurde für die Überwachung sozialer Kontakte eine KI-Software trainiert, die Menschen nur am Gang und der Körperform aus bis zu 50 Metern Entfernung identifizieren kann. Wie ist es ethisch zu bewerten, wenn jedermann bei seinem Gegenüber eine Lungenerkrankung wie Covid-19 per Smartphone mit einer „Husten-App“ diagnostizieren kann? Im Entwurf einer EU-Verordnung als Ergänzung zur DSGVO sollen KI-Systeme mit dem höchsten Risiko verboten werden, z.B. Komponenten für das Social Scoring durch Behörden oder riskantes „sprechendes“ Kinderspielzeug. KI-Anwendungen mit hohem Risiko, die über den Zugang zu Krediten, Bildungs- und Berufsangeboten entscheiden und im Rahmen der Strafverfolgung oder der Rechtspflege eingesetzt werden, erfordern dann eine CE-Konformitätsbewertung. KI-Supercomputer im Exaflop-Bereich Im Mai 2021 wurde der leistungsstärkste AI-Supercomputer Perlmutter mit 6.000 Prozessoren gestartet. Meta (früher Facebook) will in Kürze diesen Weltrekord mit dem AI Research Supercluster (RSC) mit 16.000 Prozessoren brechen und ihn im geplanten Metaverse für Echtzeitübersetzungen in Spielen und Videokonferenzen einsetzen. Im Exaflop-Bereich (Trillionen Operationen pro Sekunde) sind bislang nur zwei chinesische Supercomputer vertreten. Kontakt zum Autor Manfred Kindler, Präsident des Krankenhaus- Kommunikations- Centrums e.V. (KKC), m.kindler@kkc.info

KKC-Kolumne KI in der Pandemiebekämpfung

Reimbursement im Überblick

Digitale Gesundheit von A bis Z

Newsletter-Anmeldung