Ein künstlich intelligentes Computerprogramm kann jetzt Hautkrebs genauer diagnostizieren als ein zertifizierter Dermatologe.1 Noch besser: Das Programm kann dies schneller und effizienter tun, da es einen Trainingsdatensatz benötigt und nicht ein Jahrzehnt teurer und arbeitsintensiver medizinischer Ausbildung. Auch wenn es den Anschein hat, dass es nur eine Frage der Zeit ist, bis Ärzte durch diese Art von Technologie überflüssig werden, ist ein genauerer Blick auf die Rolle, die diese Technologie in der Gesundheitsversorgung spielen kann, gerechtfertigt, um ihre derzeitigen Stärken, Grenzen und ethischen Probleme zu verstehen.

Künstliche Intelligenz (KI), zu der die Bereiche maschinelles Lernen, Verarbeitung natürlicher Sprache und Robotik gehören, kann in fast jedem Bereich der Medizin eingesetzt werden,2 und ihr potenzieller Beitrag zur biomedizinischen Forschung, medizinischen Ausbildung und Gesundheitsversorgung scheint grenzenlos. Dank ihrer robusten Fähigkeit, große Mengen klinischer Daten zu integrieren und daraus zu lernen, kann KI bei der Diagnose,3 der klinischen Entscheidungsfindung,4 und der personalisierten Medizin eingesetzt werden.5 So helfen beispielsweise KI-basierte Diagnosealgorithmen bei Mammogrammen bei der Erkennung von Brustkrebs und dienen als „Zweitmeinung“ für Radiologen.6 Darüber hinaus sind fortschrittliche virtuelle menschliche Avatare in der Lage, sinnvolle Gespräche zu führen, was Auswirkungen auf die Diagnose und Behandlung psychiatrischer Erkrankungen hat.7 KI-Anwendungen erstrecken sich auch auf den physischen Bereich mit Roboterprothesen, physischen Aufgabenunterstützungssystemen und mobilen Manipulatoren, die bei der Bereitstellung von Telemedizin helfen.8

Diese leistungsstarke Technologie bringt jedoch eine Reihe neuer ethischer Herausforderungen mit sich, die identifiziert und entschärft werden müssen, da die KI-Technologie die Präferenzen, die Sicherheit und die Privatsphäre der Patienten in hohem Maße gefährden kann. Die derzeitigen politischen und ethischen Richtlinien für KI-Technologie bleiben jedoch hinter den Fortschritten zurück, die KI im Gesundheitswesen gemacht hat. Zwar gibt es einige Bemühungen, diese ethischen Diskussionen zu führen,9-11 aber die medizinische Gemeinschaft ist nach wie vor schlecht über die ethischen Komplexitäten informiert, die die aufkeimende KI-Technologie mit sich bringen kann. Dementsprechend steht eine reichhaltige Diskussion bevor, die von ärztlichen Beiträgen sehr profitieren würde, da Ärzte in naher Zukunft in ihrer täglichen Praxis wahrscheinlich mit KI in Berührung kommen werden.

Diese Themenausgabe des AMA Journal of Ethics zielt darauf ab, einige der ethischen Dilemmata anzugehen, die entstehen, wenn KI-Technologie in der Gesundheitsversorgung und der medizinischen Ausbildung eingesetzt wird. Zu den dringlichsten Anliegen, die in dieser Ausgabe zur Sprache kommen, gehören der Umgang mit dem zusätzlichen Risiko für die Privatsphäre und die Vertraulichkeit der Patienten, die Abgrenzung zwischen der Rolle des Arztes und der Maschine in der Patientenversorgung und die Anpassung der Ausbildung zukünftiger Ärzte, um den bevorstehenden Veränderungen in der medizinischen Praxis proaktiv zu begegnen. Darüber hinaus wird der Dialog über diese Bedenken das Verständnis von Ärzten und Patienten für die Rolle, die KI in der Gesundheitsversorgung spielen kann, verbessern und den Beteiligten helfen, eine realistische Vorstellung davon zu entwickeln, was KI leisten kann und was nicht. Schließlich wird die Vorwegnahme potenzieller ethischer Fallstricke, das Aufzeigen möglicher Lösungen und das Anbieten politischer Empfehlungen sowohl den Ärzten, die KI-Technologie in ihrer Praxis einsetzen, als auch den Patienten, die von ihnen betreut werden, zugute kommen.

Ein wichtiges Thema, das in dieser Ausgabe behandelt wird, ist die Abwägung der Vorteile und Risiken der KI-Technologie. Die rasche Integration von KI-Technologie in das Gesundheitssystem ist von Vorteil, da KI die Möglichkeit bietet, die Effizienz der Gesundheitsversorgung und die Qualität der Patientenversorgung zu verbessern. Allerdings müssen die ethischen Risiken der KI-Implementierung minimiert werden – zu denen Gefahren für die Privatsphäre und die Vertraulichkeit, die Einwilligung nach Aufklärung und die Patientenautonomie gehören können – und es muss überlegt werden, wie die KI in die klinische Praxis integriert werden soll. Die Beteiligten sollten ermutigt werden, die KI-Technologie flexibel einzusetzen, am besten als ergänzendes Instrument und nicht als Ersatz für einen Arzt. In ihrem Kommentar zu einem Fall, in dem ein künstlich intelligenter Computeralgorithmus in den Arbeitsablauf eines Arztes implementiert wurde, betonen Michael Anderson und Susan Leigh Anderson die Bedeutung des technischen Fachwissens der Anwender bei der Interpretation von KI-gesteuerten Testergebnissen und weisen auf mögliche ethische Dilemmata hin. In einem ähnlichen Fall, in dem es um den Einsatz von IBM WatsonTM als klinisches Entscheidungshilfeinstrument geht, skizziert David D. Luxton die Vorteile, Grenzen und Vorsichtsmaßnahmen beim Einsatz eines solchen Instruments. Darüber hinaus zeigen Irene Y. Chen, Peter Szolovits und Marzyeh Ghassemi in einer empirischen Studie, dass Algorithmen des maschinellen Lernens möglicherweise keine gleich genauen Vorhersagen über die Ergebnisse bei verschiedenen Rassen, Geschlechtern oder sozioökonomischen Status liefern. In ihrer Antwort auf einen Fall, in dem es um den Einsatz eines künstlich intelligenten Roboters während einer Operation geht, bekräftigen Daniel Schiff und Jason Borenstein schließlich die Bedeutung einer ordnungsgemäßen Einwilligung nach Aufklärung und eines verantwortungsvollen Einsatzes von KI-Technologie und betonen, dass die potenziellen Schäden im Zusammenhang mit dem Einsatz von KI-Technologie für alle Beteiligten transparent sein müssen.

Ein zweites großes Thema in dieser Ausgabe dreht sich um die Rolle, die KI in der medizinischen Ausbildung spielen kann, sowohl bei der Vorbereitung künftiger Ärzte auf eine Karriere unter Einbeziehung von KI als auch beim direkten Einsatz von KI-Technologie in der Ausbildung von Medizinstudenten. Steven A. Wartman und C. Donald Combs sind der Meinung, dass die medizinische Ausbildung angesichts des Aufschwungs der KI neu ausgerichtet werden sollte, und zwar weg von der Wissensvermittlung und hin zur Ausbildung von Studenten für die Interaktion mit und den Umgang mit künstlich intelligenten Maschinen; diese Neuausrichtung würde auch ein sorgfältiges Augenmerk auf die ethischen und klinischen Komplexitäten erfordern, die zwischen Patienten, Pflegepersonal und Maschinen entstehen. In einem verwandten Artikel untersuchen C. Donald Combs und P. Ford Combs den Einsatz von künstlich intelligenten, virtuellen Patienten (VPs) in der medizinischen Ausbildung. Mit ihren spannenden Anwendungen in der Lehre der Anamneseerhebung, z. B. bei der psychiatrischen Aufnahmebeurteilung, bieten VPs eine leicht zugängliche Plattform mit mehreren Vorteilen gegenüber herkömmlichen standardisierten Patienten; die Nachteile und Mängel sind jedoch ebenso wichtig und unterstreichen die Notwendigkeit, Klarheit über die Rolle von VPs in der medizinischen Ausbildung zu schaffen.

Ein letztes Thema, das in dieser Ausgabe behandelt wird, beleuchtet die rechtlichen und gesundheitspolitischen Konflikte, die mit dem Einsatz von KI in der Gesundheitsversorgung entstehen. Hannah R. Sullivan und Scott J. Schweikart zeigen rechtliche Probleme wie ärztliche Kunstfehler und Produkthaftung auf, die bei der Verwendung von „Black-Box“-Algorithmen entstehen, weil die Benutzer keine logische Erklärung dafür geben können, wie der Algorithmus zu seinem Ergebnis gekommen ist. Darüber hinaus deckt Nicole Martinez-Martin eine politische Lücke auf, die den Schutz von Patientenfotos im Zusammenhang mit der Gesichtserkennungstechnologie regelt, was eine Gefahr für die ordnungsgemäße Einwilligung nach Aufklärung, die Meldung von Zufallsbefunden und die Datensicherheit darstellen könnte. Schließlich berichten Elliott Crigger und Christopher Khoury über die jüngste Verabschiedung einer Richtlinie der American Medical Association zur KI im Gesundheitswesen, in der die Entwicklung einer durchdachten, qualitativ hochwertigen und klinisch validierten KI-Technologie gefordert wird, die als prototypische Richtlinie für das medizinische System dienen kann.

Es besteht kein Zweifel daran, dass KI weitreichende Auswirkungen haben wird, die die medizinische Praxis revolutionieren und die Erfahrungen der Patienten und die tägliche Routine der Ärzte verändern werden. Der Einsatz von KI im Gesundheitswesen kann sich sogar auf unerwartete Bereiche wie die künstlerische Praxis ausdehnen, wie Sam Anderson-Ramos untersucht hat, mit neuen Dilemmas, die sich aus dem Aufkommen denkender Maschinen in bisher menschlichen Tätigkeiten ergeben. Außerdem stellt Elisabeth Miller die potenziellen Auswirkungen der KI auf mechanisierte menschliche Körper visuell dar. Nichtsdestotrotz bleibt noch viel zu tun, um die richtige ethische Grundlage für den sicheren und effektiven Einsatz von KI-Technologie im Gesundheitswesen zu schaffen. Die vorliegende Themenausgabe des AMA Journal of Ethics will eine solche Grundlage schaffen, indem sie die KI-induzierte Komplexität der Blackbox-Medizin eingehend beleuchtet und sich mit dem Schutz der Privatsphäre und der Autonomie von Patienten, der medizinischen Ausbildung und vielem mehr befasst. Letztendlich werden Patienten immer noch von Ärzten behandelt werden, egal wie sehr KI die Versorgung verändert, und es wird immer ein menschliches Element in der medizinischen Praxis geben.