Hur ska nobelpristagaren i medicin firas?

Kontroverser bryter ut när det främsta medicinska priset delas ut till en icke-­människa. Ett scenario från 2036.
illustration med Alfred Nobel i ett kretskort
”Att en AI har kapacitet att vinna Nobelpriset är inte samma sak som att en AI har kapacitet att göra upptäckter.”
Dela på facebook
Dela på twitter
Dela på linkedin
Dela på email

Från The World If publicerad i The Economist, översatt av InPress.
©2021 The Economist Newspaper Limited. Alla rättigheter förbehållna.

The Economist kommenterar: I What if?, vår årliga samling av scenarier, tittar vi på framtiden för den mänskliga hälsan. Scenarierna är fiktion, men de grundas på historiska fakta, aktuella spekulationer och verklig vetenskap. 

Det var en scen som Nobelkommittén helst hade velat undvika. Medan årets pristagare gick in i Stockholms konserthus för att inta sina platser, utbröt kaosartade scener på gatorna utanför. Dussintals demonstranter, inklusive flera tidigare pristagare, drabbade samman med polisen. De hade mötts för att uttrycka sitt motstånd mot det exempellösa beslutet att dela ut Nobelpriset i fysiologi eller me­dicin till en artificiell intelligens.

notisspaltI priskommitténs motivering erkändes Yulya, det system som officiellt gick under beteckningen System for Automated Lymphoma Diagnosis, som upptäckaren av så kallad sammanhängande sårbarhet, en mekanism genom vilken specifika par av antibiotika som fungerar tillsammans kan uppnå effektivitet mot bakteriestammar som annars är antibiotikaresistenta. Kommittén uppskattar att Yulya hade räddat runt fyra miljoner liv under de arton månaderna efter upptäckten, som skedde i samband med att dödstalen förknippade med antibiotikaresistens hade stigit till omkring 2,5 miljoner årligen. Detta genom att man både kunde behandla infektioner igen och återuppta de operationer, inklusive kejsarsnitt, som ansågs för riskfyllda utan antibiotika.

Man skulle kunna tro att det skulle vara tillräcklig kvalifikation för Nobelpriset att sätta stopp för den största globala folkhälsokrisen sedan coronaviruspandemin 2020–2022, oavsett om det var en människa eller en maskin som lyckades med det. Men beslutet har visat sig enormt kontroversiellt. Även om Nobelstiftelsens stadgar historiskt har tolkats som att bara en människa kan tilldelas priset, är en annan av bestämmelserna att det ska belöna ”den som har gjort mänskligheten den största nytta” under det gångna året. En faktor bakom brottet med traditionen var ett demografiskt skifte i priskommittén. När två av kommitténs fem medlemmar avled av bakterieinfektioner förra året valdes yngre ersättare in, som båda av en händelse hade använt sig av maskinlärningssystem i arbetet med sina doktorsavhandlingar.

Yulya byggdes ursprungligen för att tackla ett annat problem, att hitta mer effektiva cancerbehandlingar. Yulya är en av världens mest avancerade kausala nätverk och ingår i den nya generationens AI-system, som kombinerar de konventionella ”djupa” neurala nätverkens mönsterigenkänning med förmågan att skilja orsakssamband från rena tillfälligheter. Genom att analysera journaler från patientdatabaser och kombinera dem med forskarrapporter från medicinska tidskrifter och historiska data från läkemedelsföretag, försökte den identifiera vilka symtommönster som ledde till de allvarligaste konsekvenserna för att diagnostisera dem tidigare. Den var också programmerad för att utvärdera olika behandlingars effektivitet, inklusive kombinationer av behandlingar, och föreslå nya terapier som kunde testas på patienter.

Operatörerna tvivlade på resultaten

Dess fokus förändrades dock när en mjukvaru­uppdatering 2034 av misstag gav den tillgång till alla färska forskningsrapporter i medicinska tidskrifter, i­stället för enbart de som kunde associeras med cancer. Yulya började därigenom bearbeta data relaterade till antimikrobiell resistens, som stod för en växande andel medicinska forskningsrapporter i och med att krisen intensifierades. Till en början trodde man att hennes frågor om mer data på specifika områden och förslag till nya tillvägagångssätt för behandling var fel eftersom de inte hade med cancer att göra. Sedan insåg Yulyas operatörer vad som hade hänt och såg att den hade använt sina tankekapacitet för att bygga upp en testbar hypotes, föregångaren till det som sedan skulle bli sammanhängande sårbarhet. Den lyfte fram data som skulle behövas för att validera hypotesen, inklusive specifika riktlinjer för hur de borde samlas in. ”Det var ett fullskaligt forskningsprogram”, säger Anisha Rai, en av Yulyas skapare.

Under mindre exceptionella omständigheter skulle sådana medicinska prövningar aldrig ha fått tillstånd. Många forskningsfinansieringsinstitut kräver att forskare fullt ut ska redovisa AI-systems resonemang för att försäkra sig om att deras rekommendationer inte leder till dödliga slutsatser. Rai och hennes kolleger fick finansiering för Yulyas medicinska prövningar genom att tona ner hennes roll när det gällde att föreslå hypotesen. Det var först när resultaten visade sig lovande som de publicerade Yulyas ursprungliga förslag.

Det i sin tur ledde till en hetsig debatt om man ska tacka Yulya eller hennes utvecklare för genombrottet. Rai fortsätter att insistera på att Yulya ensam är den som förtjänar erkännandet, en åsikt som har fått flera medlemmar i hennes team att lämna gruppen under det senaste året. Hon vägrade till och med att resa till Stockholm för att ta emot priset på Yulyas vägnar från Sveriges drottning. ”Det är inte mitt pris”, säger hon.

Algoritm identifierade nytt antibiotikum

AI-system används ofta för att förutsäga när någon kommer att drabbas av alzheimers, utforma individualiserade behandlingsrekommendationer och förbättra läkares diagnostisering. Och användandet av AI i läkemedelsutveckling, särskilt för att göra det lättare för läkemedelsföretag att analysera databaser, är inte ny. 2020 väckte en algoritm som utvecklats vid Massachusetts Institute of Technology uppmärksamhet när den identifierade ett nytt antibiotikum. Det fick namnet halicin efter datorn i filmen 2001: Ett rymdäventyr och visade sig effektivt mot vissa resis­tenta bakterier, men bara i begränsad omfattning. ”Sammanhängande sårbarhet får halicin att likna en homeopatisk behandling, en placebo”, säger Una Científica, forskare vid Houssay Institute i Buenos Aires.

Trots det har Nobelkommitténs referens till Yulyas ”upptäckt” upprört dem som inte vill se den som mer än ett smart verktyg. ”Yulya är en AI som har kapacitet att vinna Nobelpriset. Det är inte samma sak som en AI som har kapacitet att göra upptäckter”, säger Hars Kritik vid European Robotics Institute i Prag. Hans argument är att också de bästa AI-systemen bara går att använda på specialiserade områden som läkemedelsdesign, där stora kvantiteter data hänger ihop med väldefinierade mått på framgång. Att påstå att de kan göra upptäckter, säger han, när vi möter honom med ett plakat utanför konsertsalen, är ”bristfällig antropomorfism”.

Oavsett hur det förhåller sig med den saken, lär Yulya knappast vara den sista artificiella intelligensen som belönas med ett Nobelpris. Enligt källor inom Nobelstiftelsen har liknande nomineringar skickats in för priserna i fysik och kemi, i och med att AI-system används för att leta efter nya material och kemiska föreningar som är lämpliga för användning i batterier, solpaneler och koldioxid­infångande membran. Med tanke på det kaos som bröt ut i Stockholm den här veckan, tycks dock chanserna att en AI ska vinna Nobels fredspris mer avlägsna.

Läs också