Diese Fragen untersucht Giovanni Rubeis in seinem kürzlich erschienen Buch „Ethik der KI in der Medizin“ (Springer). Er ist Leiter des Fachbereichs Health Care Ethics am Institut für Moraltheologie der Universität Graz.
Herr Professor Rubeis, ist die KI für die Medizin bereichernd oder gefährlich?
Giovanni Rubeis: Unter bestimmten Umständen beides. Entscheidend für ihre Auswirkungen ist, wer sie warum und wie entworfen hat. Mit welchen Daten wurde sie trainiert, zu welchem Zweck wurde das System entwickelt? Die Qualität, mit der eine KI arbeiten kann, hängt stark von menschengemachten Faktoren ab. Deshalb muss auch die Letztverantwortung immer bei uns Menschen bleiben.
Heute kann man ChatGPT um eine Diagnose bitten und bekommt prompt Antworten, die einfach zu verstehen sind und verständnisvoll klingen. Wie verändern Large Language Models (LLM) die Beziehung zwischen Expert:innen in Gesundheitsberufen und Patient:innen?
Rubeis: „Dr. Google“ kennen wir schon seit Jahrzehnten. Dieser Tage sind LLMs für viele ein guter erster Ansprechpartner bei gesundheitlichen Problemen. Die Vorteile mögen zunächst auf der Hand liegen: Die KI kann auf eine riesige Datenmenge zugreifen, hat ewig Zeit für das „Gespräch“, bleibt in der Wortwahl stets freundlich. Das können Ärzt:innen, Psycho- oder Physiotherapeut:innen in diesem Ausmaß gar nicht leisten. Gleichzeitig tragen diese Expert:innen die Verantwortung dafür, dass jede:r Patient:in immer die Bedeutung, Risiken und Alternativen einer Behandlung versteht. Da ist es nicht immer angenehm, wenn sich die Patient:innen auf ChatGPT und co. berufen. Letztlich kann die KI das Versprechen einer empathischen Beziehung aber nicht einlösen. Deshalb bleibt die vertrauensvolle zwischenmenschliche Ebene ein ganz wesentliches Element in der Medizin, das bewusst gepflegt gehört. Von beiden Seiten.
Kann „Dr. KI“ menschliche Vorurteile, den so genannten „Bias“, ausgleichen?
Rubeis: Bias entsteht nicht aus eigenem Willen der KI. Vorurteile stecken in den Trainingsdaten, mit denen wir sie füttern, oder in der Art, wie wir den Algorithmus bauen. Sind zum Beispiel bestimmte Hautfarben oder geschlechtsspezifische Symptome unterrepräsentiert, werden Ergebnisse verzerrt. Da liegt es an den Personen, die eine KI entwickeln, auf Ziel und Zweck zu achten. Klar ist auch: Vielfältige Daten und technische Prüfverfahren können Bias reduzieren, aber nicht vollständig entfernen.
Wo sehen Sie gesellschaftliche Risiken, wenn KI in einem unverhältnismäßigen Maß Einzug im Gesundheitswesen hält?
Rubeis: Der Einsatz von KI allein aus Gründen der Kostenreduktion könnte das Patient:innenwohl gefährden. Denkbar ist eine Ausweitung der Zwei-Klassen-Medizin. Wer zahlen kann, spricht mit einem Menschen, alle anderen versorgt die KI. Liegt die mal falsch, könnte das System diese Fehldiagnosen „verschmerzen“, weil es sich finanziell trotzdem rentiert. Deshalb gehört die Ethik von Beginn an in der Entwicklung berücksichtigt. Rein wirtschaftlich betrachtet ist dieser Zugang zwar zunächst aufwändiger und teurer, spart aber die Kompensation etwaiger Folgeschäden.
Die deutsche Ausgabe Ihres Buches hat eine KI mit Ihrer Supervision aus dem Englischen übersetzt. Was hat Sie dabei überrascht?
Rubeis: Vor allem die stark schwankende Qualität der Übersetzung. Manche Passagen waren ausgezeichnet, zwei Sätze später gab es grobe Fehler. Diese entstanden unter anderem dadurch, dass das System auch Fachbegriffe wie „Informed Consent“ ins Deutsche übersetzte. Da sieht man, wie wichtige gute Prompts sind. Letztlich musste ich den deutschen Text vollständig prüfen und überarbeiten. Trotzdem bin ich froh, dass der Verlag dieses Experiment gewagt hat: So konnte ich hautnah miterleben, was die KI schon kann und woran sie derzeit noch scheitert.
>> Mehr zum Buch „Ethik der KI in der Medizin“, erschienen im Springer Verlag
>> Wer sich für ethische Fragestellungen interessiert, kann sich im Masterstudium „Angewandte Ethik“ in diese vertiefen.