Algoritmer för livet och döden: hur man ska förstå artificiell intelligens som kan läka människor?

När det gäller lärande, oftast de samtal om det medicinska området. Detta är inte förvånande: en enorm industri som genererar en stor mängd data och inkomster, i vilka tekniska framsteg som kan förbättra eller rädda livet på miljontals människor. Inte går en vecka utan att uppkomsten av forskning som tyder på att algoritmer är bättre experter för att identifiera pneumoni eller Alzheimers sjukdom — sjukdomar av komplexa organ, från öga till hjärtat. Och allt detta är, men…

Det Problem med överfulla sjukhus och överarbetad sjuksköterskor är förgiftning den offentliga vården, och ökade kostnader för privata hälso-och sjukvården. Och här igen, de algoritmer som erbjuder en frestande lösning. Hur många gånger faktiskt behöver besöka en läkare? Är det möjligt att ersätta dessa besök smart chatbot — som kommer att vara utrustade med bärbara diagnostiska tester med de senaste landvinningarna inom bioteknik? Onödiga besök kan minskas och patienter kan diagnostiseras och enligt specialister snabbt, utan att vänta på inledande samrådet.

Som i fallet med artificiell intelligens algoritmer, målet är inte att ersätta läkare, men att ge dem verktyg för att minska dagligen eller återkommande arbeten. Med en AI som kan utforska tusentals skanningar per minut, "tråkiga saker" kvar på maskinerna, samt läkarna kan fokusera på de delar av arbetet som kräver mer komplexa, subtila, baserat på bedömningar om de bästa metoderna för behandling och patientens behov.

High stakes

Och ändå, som i fallet med de algoritmer av AI, det finns risker i samband med deras användning — även för uppgifter som anses vardagliga. Problem algoritmer en "svart låda" att ta oförklarliga beslut, tillräckligt allvarliga när du försöker att förstå varför en automatiserad chatbot-rekryterare är inte imponerad av din berättelse under intervjun. I hälso-sammanhang, där beslut kan betyda liv eller död, konsekvenserna av algoritmisk misslyckande kan vara dödlig.

Neurala nätverk är fullt kapabel att hantera stora mängden data utbildning och kopplingar, absorptionen av underliggande mönster eller logik i systemet i dolda lager linjär algebra, om upptäckt av hudcancer av bilder eller skriva pseudosclerosis språk. Men de är fruktansvärt förklara den underliggande logiken i det förhållandet att de upptäckt: det är något mer än bara en sträng av siffror, statistik vikter mellan skikten. Och de kan inte skilja på korrelation från orsakssamband.

Väcker ett intressant dilemma för medicinsk personal. Drömmen om big data i medicin är att ge neurala nätverk enorma mängder data om hälsa," hitta komplexa, implicita relationer och göra en individuell bedömning av patienter. Vad händer om algoritmen skulle vara orimligt effektiv vid diagnos av hälsotillstånd eller behandling uppdrag, men du kommer inte att ha en vetenskaplig förståelse av hur denna relation som faktiskt fungerar?

För många trådar som behöver varva ner

De Statistiska modeller som ligger till grund för dessa neurala nätverk ofta anta att variablerna är oberoende av varandra, men i en komplex, interaktiva system som den mänskliga kroppen, är det inte alltid fallet.

I en mening, detta är ett känt begrepp inom den medicinska vetenskapen finns det många fenomen och relationer som har observerats i decennier, men är fortfarande dåligt känd på en biologisk nivå. Paracetamol är en av de mest populära smärtstillande medel, men fortfarande i aktiva diskussioner om hans handlingar. Utövare kan sträva efter att använda alla verktyg, som är mest effektivt, oavsett om det är baserat på en gedigen vetenskaplig förståelse. Fans av Köpenhamns-tolkningen av kvantmekaniken kan omformulera det som "Shut up och läka!".

Naturligtvis i detta område är pågående debatt om huruvida eller inte får vi köra risken med detta tillvägagångssätt är att förbise den djupare förståelse som i slutändan kommer att visa sig vara mer givande om du till exempel vill söka efter nya läkemedel.

I Tillägg till de filosofiska blomstrar, det finns praktiska problem: om du inte förstår den svarta lådan av medicinska algoritm, hur man närmar sig problem av kliniska prövningar och förordning?

Kan kräva insyn i de fungerande algoritm — data som han ser ut på de tröskelvärden som på grundval av vilket drar slutsatser eller ger råd, men detta kan komma i konflikt med motiv av vinst och utövande av sekretess i medicinsk start-UPS.

En lösning skulle kunna vara att ta bort de algoritmer som är oförmögen att förklara sig eller förlita sig på väl förstått att den medicinska vetenskapen. Men det kan hindra folk att dra nytta av nyttigt arbete sådana algoritmer.

utvärdering av algoritmer

Nya algoritmer inom området hälsa inte kommer att kunna göra vad fysik gjorde med kvantmekanik, eftersom det inte är utplacerade i området. Många algoritmer är bättre att arbeta i fält. Hur gör vi för att välja den mest lovande metoden?

Skapa ett standardiserat system för kliniska prövningar och tester, som även gäller för algoritmer som fungerar på olika sätteller använda olika indata kommer att bli utmanande. Kliniska prövningar som använder prover av liten storlek, till exempel, algoritmer för att försöka anpassa behandlingen för individer kommer också att vara utmanande. Med små prover och svag vetenskaplig förståelse av vad det är som händer kommer det att vara omöjligt att avgöra, den algoritm som har lyckats eller misslyckats, eftersom han kan vara bra i Allmänhet, men för att visa ett dåligt exempel.

Lägg till denna mix av utbildning och bilden blir ännu mer komplicerat. "Ännu viktigare, den perfekta algoritm i den "svarta lådan" är av plast och är ständigt uppdaterad, så att den traditionella modellen av kliniska prövningar är inte lämpligt, eftersom det bygger på en statisk produkt som är föremål för stabila rating".

Jag Behöver för att anpassa hela systemet av medicinska och kliniska prövningar.

balans

hälsa speglar historien av artificiell intelligens i många aspekter. Det är ingen slump att IBM försökt att ändra på hälso-och sjukvårdsområdet, med hjälp av sin artificiell intelligens Watson.

Den Balans måste hittas. Vi måste hitta ett sätt att hantera big data, att använda den fruktansvärda kraften i neurala nätverk och för att automatisera resonemang. Vi bör vara medvetna om de brister och fel i detta sätt att lösa problem.

Vid samma tid måste vi välkomna dessa tekniker eftersom de kan vara ett bra komplement till den kompetens, kunskap och förståelse som kan ge människor. Som neurala nätverk, vår industri behöver för att lära sig, att utvidga detta samarbete i framtiden.

Överens? Låt oss diskutera i vår