Uměle inteligentní počítačový program nyní dokáže diagnostikovat rakovinu kůže přesněji než certifikovaný dermatolog.1 A co víc, program to dokáže rychleji a efektivněji, protože k tomu potřebuje spíše tréninkový soubor dat než deset let nákladného a pracného lékařského vzdělávání. Ačkoli by se mohlo zdát, že je jen otázkou času, kdy tento typ technologie učiní lékaře zastaralými, bližší pohled na roli, kterou tato technologie může hrát při poskytování zdravotní péče, je opodstatněný, abychom docenili její současné silné stránky, omezení a etické složitosti.

Umělou inteligenci (AI), která zahrnuje oblasti strojového učení, zpracování přirozeného jazyka a robotiky, lze aplikovat téměř na všechny oblasti medicíny2 a její potenciální přínos pro biomedicínský výzkum, lékařské vzdělávání a poskytování zdravotní péče se zdá být neomezený. Díky své robustní schopnosti integrovat a učit se z velkých souborů klinických dat může umělá inteligence plnit roli v diagnostice,3 klinickém rozhodování4 a personalizované medicíně.5 Například diagnostické algoritmy založené na umělé inteligenci aplikované na mamografy pomáhají při odhalování rakoviny prsu a slouží jako „druhý názor“ pro radiology.6 Kromě toho jsou vyspělí virtuální lidští avataři schopni vést smysluplné rozhovory, což má význam pro diagnostiku a léčbu psychiatrických onemocnění.7 Aplikace umělé inteligence zasahují i do fyzické sféry – robotické protézy, systémy pro podporu fyzických úkolů a mobilní manipulátory pomáhají při poskytování telemedicíny.8

Tato výkonná technologie nicméně vytváří nový soubor etických problémů, které je třeba identifikovat a zmírnit, protože technologie umělé inteligence má obrovskou schopnost ohrozit preference, bezpečnost a soukromí pacientů. Současné politické a etické pokyny pro technologii UI však zaostávají za pokrokem, který UI v oblasti zdravotní péče učinila. I když se objevily určité snahy o zapojení do těchto etických rozhovorů,9-11 lékařská komunita je stále špatně informována o etických složitostech, které může přinést začínající technologie UI. V souladu s tím nás čeká bohatá diskuse, které by velmi prospěly příspěvky lékařů, protože lékaři budou pravděpodobně v blízké budoucnosti přicházet do styku s AI ve své každodenní praxi.

Toto tematické číslo časopisu AMA Journal of Ethics si klade za cíl řešit některá etická dilemata, která vznikají při používání technologie AI ve zdravotnictví a lékařském vzdělávání. Některé z nejpalčivějších problémů, které jsou v tomto čísle vzneseny, zahrnují řešení dodatečného rizika pro soukromí a důvěrnost pacientů, rozčlenění hranic mezi rolí lékaře a stroje v péči o pacienty a přizpůsobení vzdělávání budoucích lékařů tak, aby aktivně čelili hrozícím změnám v lékařské praxi. Dialog o těchto obavách navíc zlepší pochopení lékařů a pacientů, jakou roli může umělá inteligence ve zdravotní péči hrát, a pomůže zúčastněným stranám vytvořit si realistickou představu o tom, co umělá inteligence může a nemůže dělat. A konečně, předvídání možných etických úskalí, identifikace možných řešení a nabídka politických doporučení budou přínosem pro lékaře, kteří technologii UI přijímají do své praxe, i pro pacienty, kterým se dostává jejich péče.

Jedním z hlavních témat, kterým je třeba se v tomto čísle zabývat, je otázka, jak vyvážit přínosy a rizika technologie UI. Rychlá integrace technologie UI do systému zdravotní péče je přínosem, protože UI představuje příležitost ke zlepšení efektivity poskytování zdravotní péče a kvality péče o pacienty. Je však třeba minimalizovat etická rizika implementace AI – která mohou zahrnovat ohrožení soukromí a důvěrnosti, informovaného souhlasu a autonomie pacienta – a zvážit, jakým způsobem má být AI integrována do klinické praxe. Zúčastněné strany by měly být povzbuzovány k flexibilitě při začleňování technologie UI, nejspíše jako doplňkového nástroje, nikoli jako náhrady lékaře. Michael Anderson a Susan Leigh Andersonová ve svém komentáři k případu implementace uměle inteligentního počítačového algoritmu do pracovního postupu lékaře zdůrazňují význam technických znalostí uživatele při interpretaci výsledků testů řízených umělou inteligencí a identifikují možná etická dilemata. V podobném případě týkajícím se použití IBM WatsonTM jako nástroje pro podporu klinického rozhodování David D. Luxton nastiňuje výhody, omezení a bezpečnostní opatření při používání takového nástroje. Irene Y. Chen, Peter Szolovits a Marzyeh Ghassemi dále v empirické studii ukazují, že algoritmy strojového učení nemusí poskytovat stejně přesné předpovědi výsledků u různých ras, pohlaví nebo socioekonomického statusu. A konečně, v reakci na případ, který se zabývá použitím uměle inteligentního robota při operaci, Daniel Schiff a Jason Borenstein potvrzují důležitost řádného informovaného souhlasu a odpovědného používání technologie umělé inteligence a zdůrazňují, že potenciální škody spojené s používáním technologie umělé inteligence musí být transparentní pro všechny zúčastněné.

Druhé hlavní téma tohoto čísla se točí kolem role, kterou může hrát umělá inteligence ve vzdělávání lékařů, a to jak při přípravě budoucích lékařů na kariéru integrující umělou inteligenci, tak při přímém používání technologie umělé inteligence při vzdělávání studentů medicíny. Steven A. Wartman a C. Donald Combs tvrdí, že vzhledem k vzestupu UI by mělo být lékařské vzdělávání přeformulováno ze zaměření na vybavování znalostí na zaměření na výcvik studentů v interakci s uměle inteligentními stroji a jejich řízení; toto přeformulování by také vyžadovalo pečlivou pozornost etickým a klinickým složitostem, které vznikají mezi pacienty, ošetřovateli a stroji. V souvisejícím článku se C. Donald Combs a P. Ford Combs zabývají využitím uměle inteligentních virtuálních pacientů (VP) ve výuce medicíny. Díky svým zajímavým aplikacím při výuce odebírání anamnézy, například při hodnocení psychiatrického příjmu, nabízejí VP snadno dostupnou platformu s několika výhodami oproti tradičním standardizovaným pacientům; stejně důležité jsou však i nevýhody a nedostatky, což zdůrazňuje potřebu vyjasnit úlohu VP v lékařském vzdělávání.

Závěrečné téma, kterým se toto číslo zabývá, objasňuje právní a zdravotněpolitické konflikty, které vznikají při používání umělé inteligence ve zdravotnictví. Hannah R. Sullivan a Scott J. Schweikart odhalují právní problémy, jako jsou lékařské pochybení a odpovědnost za výrobek, které vznikají při používání „black-box“ algoritmů, protože uživatelé nemohou poskytnout logické vysvětlení, jak algoritmus dospěl k danému výstupu. Nicole Martinez-Martinová navíc odhaluje mezeru v politice upravující ochranu fotografických snímků pacientů v souvislosti s technologií rozpoznávání obličeje, která by mohla ohrozit řádný informovaný souhlas, hlášení náhodných nálezů a bezpečnost údajů. A konečně Elliott Crigger a Christopher Khoury informují o nedávno přijaté politice Americké lékařské asociace týkající se umělé inteligence ve zdravotnictví, která vyzývá k vývoji promyšleně navržené, vysoce kvalitní a klinicky ověřené technologie umělé inteligence, která může sloužit jako prototyp politiky pro zdravotnický systém.

Není pochyb o tom, že umělá inteligence bude mít rozsáhlé důsledky, které způsobí revoluci v lékařské praxi a promění zkušenosti pacientů i každodenní rutinu lékařů. Využití umělé inteligence ve zdravotnictví se může rozšířit i do nečekaných oblastí, jako je umělecká praxe, jak zkoumá Sam Anderson-Ramos, přičemž v důsledku nástupu myslících strojů v dříve lidských činnostech se objeví nová dilemata. Elisabeth Millerová navíc vizuálně zobrazuje potenciální dopad umělé inteligence na mechanizovaná lidská těla. Přesto je před námi ještě mnoho práce, abychom položili správné etické základy pro bezpečné a efektivní využívání technologií AI ve zdravotnictví. Toto tematické číslo časopisu AMA Journal of Ethics si klade za cíl poskytnout takový základ s důkladným pohledem na složitosti medicíny vyvolané umělou inteligencí, zkoumáním soukromí a autonomie pacientů, lékařským vzděláváním a dalšími tématy. V konečném důsledku budou pacienty stále léčit lékaři bez ohledu na to, jak moc AI změní poskytování péče, a v lékařské praxi bude vždy existovat lidský prvek.