Een kunstmatig intelligent computerprogramma kan nu nauwkeuriger een diagnose stellen bij huidkanker dan een dermatoloog met een diploma.1 Beter nog, het programma kan het sneller en efficiënter, omdat het een set trainingsgegevens nodig heeft in plaats van een decennium van dure en arbeidsintensieve medische opleiding. Hoewel het misschien lijkt dat het slechts een kwestie van tijd is voordat artsen door dit soort technologie overbodig worden gemaakt, is een nadere beschouwing van de rol die deze technologie kan spelen bij de levering van gezondheidszorg gerechtvaardigd om de huidige sterke punten, beperkingen en ethische complexiteit ervan te waarderen.

Artificiële intelligentie (AI), die de gebieden van machinaal leren, natuurlijke taalverwerking en robotica omvat, kan op bijna elk gebied in de geneeskunde worden toegepast,2 en de potentiële bijdragen ervan aan biomedisch onderzoek, medisch onderwijs en levering van gezondheidszorg lijken grenzeloos. Met zijn robuuste vermogen om grote reeksen klinische gegevens te integreren en ervan te leren, kan AI een rol spelen bij de diagnose,3 bij de klinische besluitvorming,4 en bij gepersonaliseerde geneeskunde.5 Op AI gebaseerde diagnostische algoritmen die op mammogrammen worden toegepast, helpen bijvoorbeeld bij de opsporing van borstkanker en fungeren als een “second opinion” voor radiologen.6 Daarnaast zijn geavanceerde virtuele menselijke avatars in staat zinvolle gesprekken te voeren, wat implicaties heeft voor de diagnose en behandeling van psychiatrische ziekten.7 AI-toepassingen strekken zich ook uit tot het fysieke domein met robotprothesen, fysieke taakondersteunende systemen en mobiele manipulatoren die helpen bij de levering van telegeneeskunde.8

Niettemin creëert deze krachtige technologie een nieuwe reeks ethische uitdagingen die moeten worden geïdentificeerd en beperkt, aangezien AI-technologie een enorm vermogen heeft om de voorkeur van patiënten, hun veiligheid en privacy te bedreigen. Het huidige beleid en de ethische richtlijnen voor AI-technologie lopen echter achter op de vooruitgang die AI in de gezondheidszorg heeft geboekt. Hoewel er pogingen zijn ondernomen om deze ethische discussies aan te gaan,9-11 blijft de medische gemeenschap slecht op de hoogte van de ethische complexiteiten die de ontluikende AI-technologie kan introduceren. Dienovereenkomstig wacht er een rijke discussie die veel baat zou hebben bij de inbreng van artsen, omdat artsen in de nabije toekomst waarschijnlijk in aanraking zullen komen met AI in hun dagelijkse praktijk.

Dit themanummer van het AMA Journal of Ethics heeft als doel om enkele van de ethische dilemma’s aan te pakken die zich voordoen wanneer AI-technologie wordt gebruikt in de gezondheidszorg en het medisch onderwijs. Enkele van de meest dringende kwesties die in dit themanummer aan de orde komen, zijn het aanpakken van het extra risico voor de privacy en vertrouwelijkheid van patiënten, het ontleden van de grenzen tussen de rol van de arts en die van de machine in de patiëntenzorg, en het aanpassen van de opleiding van toekomstige artsen om proactief om te gaan met de op handen zijnde veranderingen in de uitoefening van de geneeskunde. Bovendien zal de dialoog over deze problemen artsen en patiënten een beter inzicht geven in de rol die AI in de gezondheidszorg kan spelen, zodat de betrokkenen een realistisch beeld krijgen van wat AI wel en niet kan doen. Ten slotte zal het anticiperen op mogelijke ethische valkuilen, het identificeren van mogelijke oplossingen en het aanbieden van beleidsaanbevelingen ten goede komen aan artsen die AI-technologie in hun praktijk invoeren, evenals aan de patiënten die hun zorg ontvangen.

Een belangrijk thema dat in dit nummer aan de orde moet komen, is hoe de voordelen en risico’s van AI-technologie tegen elkaar kunnen worden afgewogen. Er zijn voordelen verbonden aan een snelle integratie van AI-technologie in het gezondheidszorgsysteem, aangezien AI de mogelijkheid biedt om de efficiëntie van de gezondheidszorgverlening en de kwaliteit van de patiëntenzorg te verbeteren. De ethische risico’s van de invoering van AI moeten echter tot een minimum worden beperkt (zoals bedreigingen voor de privacy en vertrouwelijkheid, geïnformeerde toestemming en de autonomie van de patiënt) en er moet worden nagedacht over de manier waarop AI in de klinische praktijk moet worden geïntegreerd. Belanghebbenden moeten worden aangemoedigd om flexibel om te gaan met AI-technologie, waarschijnlijk als een aanvullend hulpmiddel en niet als vervanging voor een arts. In hun commentaar op een geval van implementatie van een kunstmatig intelligent computeralgoritme in de workflow van een arts, benadrukken Michael Anderson en Susan Leigh Anderson het belang van technische expertise van de gebruiker bij het interpreteren van AI-geleide testresultaten en identificeren zij potentiële ethische dilemma’s. In een vergelijkbare casus over het gebruik van IBM WatsonTM als hulpmiddel bij klinische besluitvorming, schetst David D. Luxton de voordelen, beperkingen en voorzorgsmaatregelen bij het gebruik van zo’n hulpmiddel. Verder tonen Irene Y. Chen, Peter Szolovits en Marzyeh Ghassemi in een empirische studie aan dat algoritmen voor machinaal leren mogelijk niet even nauwkeurige voorspellingen van uitkomsten geven voor ras, geslacht of sociaaleconomische status. Ten slotte bevestigen Daniel Schiff en Jason Borenstein in hun reactie op een casus waarin het gebruik van een kunstmatig intelligente robot tijdens een operatie wordt overwogen, het belang van goede geïnformeerde toestemming en verantwoord gebruik van AI-technologie, waarbij zij benadrukken dat de potentiële schade in verband met het gebruik van AI-technologie transparant moet zijn voor alle betrokkenen.

Een tweede belangrijk thema in dit nummer draait om de rol die AI kan spelen in het medisch onderwijs, zowel bij de voorbereiding van toekomstige artsen op een carrière waarin AI wordt geïntegreerd als bij het directe gebruik van AI-technologie in het onderwijs aan medische studenten. Steven A. Wartman en C. Donald Combs stellen dat, gezien de opkomst van AI, het medisch onderwijs zou moeten worden omgebogen van een focus op het herinneren van kennis naar een focus op het trainen van studenten in interactie met en het managen van kunstmatig intelligente machines; deze omvorming zou ook een zorgvuldige aandacht vereisen voor de ethische en klinische complexiteit die ontstaat tussen patiënten, zorgverleners en machines. In een verwant artikel onderzoeken C. Donald Combs en P. Ford Combs het gebruik van kunstmatig intelligente, virtuele patiënten (VPs) in het medisch onderwijs. Met hun opwindende toepassingen in het onderwijzen van medische voorgeschiedenis, zoals bij psychiatrische intake-evaluatie, bieden VP’s een gemakkelijk toegankelijk platform met verschillende voordelen ten opzichte van traditionele gestandaardiseerde patiënten; de nadelen en tekortkomingen zijn echter even belangrijk, wat de noodzaak benadrukt van duidelijkheid over de rol van VP’s in het medisch onderwijs.

Een laatste thema dat in dit nummer wordt behandeld, verheldert de juridische en gezondheidsbeleidsconflicten die zich voordoen bij het gebruik van AI in de gezondheidszorg. Hannah R. Sullivan en Scott J. Schweikart onthullen juridische problemen, zoals medische fouten en productaansprakelijkheid, die ontstaan bij het gebruik van “black-box” algoritmen, omdat gebruikers geen logische verklaring kunnen geven van hoe het algoritme tot het gegeven resultaat is gekomen. Nicole Martinez-Martin legt bovendien een hiaat bloot in het beleid inzake de bescherming van fotografische beelden van patiënten in het kader van gezichtsherkenningstechnologie, wat een bedreiging kan vormen voor geïnformeerde toestemming, rapportage van incidentele bevindingen en gegevensbeveiliging. Ten slotte rapporteren Elliott Crigger en Christopher Khoury over de recente goedkeuring door de American Medical Association van het beleid inzake AI in de gezondheidszorg, waarin wordt opgeroepen tot de ontwikkeling van doordacht ontworpen, hoogwaardige en klinisch gevalideerde AI-technologie, die kan dienen als een prototypisch beleid voor het medische systeem.

Het lijdt geen twijfel dat AI wijdverbreide vertakkingen zal hebben die een revolutie teweegbrengen in de praktijk van de geneeskunde, waardoor de ervaring van de patiënt en de dagelijkse routines van artsen zullen veranderen. Het gebruik van AI in de gezondheidszorg kan zich zelfs uitstrekken tot onverwachte gebieden zoals de kunstpraktijk, zoals onderzocht door Sam Anderson-Ramos, met nieuwe dilemma’s die ontstaan door de opkomst van denkende machines in voorheen menselijke bezigheden. Daarnaast geeft Elisabeth Miller een visueel beeld van de potentiële impact van AI op gemechaniseerde menselijke lichamen. Desalniettemin is er nog veel werk aan de winkel om de juiste ethische basis te leggen voor een veilig en effectief gebruik van AI-technologie in de gezondheidszorg. Dit themanummer van de AMA Journal of Ethics wil een dergelijke basis leggen met een diepgaande kijk op de door AI veroorzaakte complexiteiten van ‘black-box medicine’, waarbij de privacy en autonomie van patiënten, medische educatie en meer aan bod komen. Uiteindelijk zullen patiënten nog steeds door artsen worden behandeld, hoezeer AI de zorgverlening ook verandert, en er zal altijd een menselijk element zijn in de uitoefening van de geneeskunde.