Ett artificiellt intelligent datorprogram kan nu diagnostisera hudcancer mer exakt än en specialistutbildad hudläkare.1 Ännu bättre är att programmet kan göra det snabbare och effektivare, genom att det kräver en träningsdatamängd i stället för ett decennium av dyr och arbetskrävande medicinsk utbildning. Även om det kan tyckas att det bara är en tidsfråga innan läkare blir föråldrade av den här typen av teknik, är det motiverat att titta närmare på den roll som den här tekniken kan spela inom hälso- och sjukvården för att förstå dess nuvarande styrkor, begränsningar och etiska komplexitet.

Konstgjord intelligens (AI), som innefattar maskininlärning, behandling av naturligt språk och robotik, kan tillämpas på nästan alla medicinska områden2 , och dess potentiella bidrag till biomedicinsk forskning, medicinsk utbildning och tillhandahållande av hälso- och sjukvård tycks vara gränslös. Med sin robusta förmåga att integrera och lära sig av stora mängder kliniska data kan artificiell intelligens spela en roll för diagnostik3 , kliniskt beslutsfattande4 och individanpassad medicin.5 Till exempel hjälper AI-baserade diagnostiska algoritmer som tillämpas på mammografier till att upptäcka bröstcancer och fungerar som en ”second opinion” för radiologer.6 Avancerade virtuella mänskliga avatarer kan dessutom delta i meningsfulla konversationer, vilket har betydelse för diagnostik och behandling av psykiatriska sjukdomar.7 AI-tillämpningar sträcker sig också in i den fysiska världen med robotproteser, fysiska stödsystem för arbetsuppgifter och mobila manipulatorer som hjälper till att tillhandahålla telemedicin.8

Denna kraftfulla teknik skapar dock en ny uppsättning etiska utmaningar som måste identifieras och mildras, eftersom AI-tekniken har en enorm förmåga att hota patienternas preferenser, säkerhet och integritet. De nuvarande politiska och etiska riktlinjerna för AI-teknik släpar dock efter de framsteg som AI har gjort inom hälso- och sjukvården. Även om vissa försök att delta i dessa etiska samtal har gjorts9-11 , är läkarkåren fortfarande dåligt informerad om de etiska problem som den framväxande AI-tekniken kan medföra. Följaktligen väntar en rik diskussion som skulle ha stor nytta av läkares bidrag, eftersom läkare troligen kommer att ha kontakt med AI i sin dagliga verksamhet inom en nära framtid.

Detta temanummer av AMA Journal of Ethics syftar till att ta itu med några av de etiska dilemman som uppstår när AI-teknik används inom hälso- och sjukvården och medicinsk utbildning. Några av de mest angelägna frågor som tas upp i det här numret är att ta itu med den ökade risken för patienternas privatliv och sekretess, att utreda gränserna mellan läkarens och maskinens roll i patientvården och att anpassa utbildningen av framtida läkare för att proaktivt konfrontera de överhängande förändringarna i den medicinska verksamheten. En dialog om dessa frågor kommer dessutom att förbättra läkares och patienters förståelse för den roll som artificiell intelligens kan spela inom hälso- och sjukvården och hjälpa intressenterna att utveckla en realistisk uppfattning om vad artificiell intelligens kan och inte kan göra. Slutligen kommer det att vara till nytta för läkare som inför AI-teknik i sin praktik och för de patienter som får deras vård att förutse potentiella etiska fallgropar, identifiera möjliga lösningar och erbjuda policyrekommendationer.

Ett av de viktigaste teman som kommer att tas upp i det här numret är hur man ska balansera fördelarna och riskerna med AI-tekniken. Det finns fördelar med att snabbt integrera AI-teknik i hälso- och sjukvårdssystemet, eftersom AI ger möjlighet att förbättra effektiviteten i hälso- och sjukvården och kvaliteten på patientvården. Det finns dock ett behov av att minimera de etiska riskerna med AI-implementering – som kan omfatta hot mot integritet och konfidentialitet, informerat samtycke och patientens autonomi – och att överväga hur AI ska integreras i klinisk praxis. Intressenterna bör uppmuntras att vara flexibla när det gäller att införliva AI-teknik, troligen som ett kompletterande verktyg och inte som en ersättning för en läkare. I sin kommentar till ett fall av implementering av en artificiellt intelligent datoralgoritm i en läkares arbetsflöde betonar Michael Anderson och Susan Leigh Anderson vikten av användarens tekniska expertis vid tolkning av AI-styrda testresultat och identifierar potentiella etiska dilemman. I ett liknande fall om användningen av IBM WatsonTM som ett kliniskt beslutsstöd beskriver David D. Luxton fördelar, begränsningar och försiktighetsåtgärder vid användning av ett sådant verktyg. I en empirisk studie visar Irene Y. Chen, Peter Szolovits och Marzyeh Ghassemi dessutom att algoritmer för maskininlärning kanske inte ger lika exakta förutsägelser av resultat oavsett ras, kön eller socioekonomisk status. Slutligen bekräftar Daniel Schiff och Jason Borenstein i sitt svar på ett fall där man överväger användningen av en artificiellt intelligent robot under en operation vikten av korrekt informerat samtycke och ansvarsfull användning av AI-teknik, och betonar att de potentiella skadorna i samband med användningen av AI-teknik måste vara transparenta för alla inblandade.

Ett andra stort tema i det här numret handlar om den roll som AI kan spela i den medicinska utbildningen, både när det gäller att förbereda framtida läkare för en karriär som integrerar AI och när det gäller direkt användning av AI-teknik i utbildningen av läkarstudenter. Steven A. Wartman och C. Donald Combs hävdar att med tanke på AI:s framväxt bör läkarutbildningen omformas från att fokusera på kunskapsinhämtning till att fokusera på att utbilda studenterna att interagera med och hantera artificiellt intelligenta maskiner; denna omformning kräver också att man uppmärksammar de etiska och kliniska komplexiteter som uppstår mellan patienter, vårdgivare och maskiner. I en relaterad artikel undersöker C. Donald Combs och P. Ford Combs användningen av artificiellt intelligenta virtuella patienter i medicinsk utbildning. Med sina spännande tillämpningar för att lära ut medicinska anamneser, t.ex. vid psykiatrisk intagningsutvärdering, erbjuder virtuella patienter en lättillgänglig plattform med flera fördelar jämfört med traditionella standardiserade patienter, men nackdelarna och bristerna är lika viktiga, vilket understryker behovet av klarhet om den roll som virtuella patienter spelar i den medicinska utbildningen.

Ett sista tema som tas upp i det här numret belyser de juridiska och hälsopolitiska konflikter som uppstår i samband med användningen av artificiell intelligens inom hälso- och sjukvården. Hannah R. Sullivan och Scott J. Schweikart avslöjar rättsliga frågor såsom medicinska felbehandlingar och produktansvar som uppstår vid användning av ”black-box”-algoritmer eftersom användarna inte kan ge en logisk förklaring till hur algoritmen kom fram till det givna resultatet. Nicole Martinez-Martin avslöjar dessutom en politisk lucka när det gäller skyddet av patienters fotografiska bilder i samband med teknik för ansiktsigenkänning, vilket skulle kunna hota ett korrekt informerat samtycke, rapportering av tillfälliga fynd och datasäkerhet. Slutligen rapporterar Elliott Crigger och Christopher Khoury om American Medical Associations nyligen antagna policy om AI inom hälso- och sjukvården, där man efterlyser utveckling av genomtänkt utformad, högkvalitativ och kliniskt validerad AI-teknik, som kan fungera som en prototypisk policy för det medicinska systemet.

Det råder ingen tvekan om att AI kommer att få omfattande förgreningar som revolutionerar den medicinska praktiken, och som förändrar patienternas upplevelse och läkarnas dagliga rutiner. Användningen av AI inom hälso- och sjukvården kan till och med sträcka sig in på oväntade områden som konstnärligt utövande, vilket Sam Anderson-Ramos har undersökt, med nya dilemman som uppstår när tänkande maskiner tar sig in i tidigare mänskliga sysslor. Dessutom skildrar Elisabeth Miller visuellt den potentiella effekten av artificiell intelligens på mekaniserade människokroppar. Det finns dock mycket arbete kvar att göra för att lägga den rätta etiska grunden för att använda AI-teknik på ett säkert och effektivt sätt inom hälso- och sjukvården. Detta temanummer av AMA Journal of Ethics syftar till att ge en sådan grund med en djupgående bild av den AI-inducerade komplexiteten i black-box-medicinen, genom att utforska patientens integritet och autonomi, medicinsk utbildning med mera. I slutändan kommer patienterna fortfarande att behandlas av läkare oavsett hur mycket AI förändrar vården, och det kommer alltid att finnas ett mänskligt inslag i utövandet av medicin.