Varför forskarna inte bör förlita sig på AI i frågor av vetenskaplig upptäckt, åtminstone för nu

Vi lever i en Gyllene tidsålder av vetenskapliga bevis, att omge sig med enorma reserver av genetisk information, medicinska bilder och data på astronomiska observationer. Den nuvarande kapaciteten inom maskininlärning algoritmer gör artificiell intelligens så snabbt som möjligt och på samma gång att mycket noggrant undersöka dessa uppgifter, ofta genom att öppna dörren till potentiellt nya vetenskapliga upptäckter. Vi bör dock inte blint lita på resultaten av vetenskaplig forskning som bedrivs av AI, säger research specialist rice University Jenever Allen. Åtminstone inte på den nuvarande nivån av utveckling av denna teknik. Enligt forskare, problemet är att moderna AI-system har ingen förmåga till kritisk utvärdering av resultaten av deras arbete.

Enligt Allen, AI-system med hjälp av maskininlärning metoder, som, när lärandet sker i en process för att tillämpa de lösningar som på många liknande problem, inte bara genom införandet och ansluta sig till de nya regler och förordningar, kan man lita på att fatta vissa beslut. Om att tala mer om just AI det är möjligt att överlåta uppgifter för att lösa problemen på de områden där det slutliga resultatet lätt kan kontrolleras och analyseras av människan själv. Som ett exempel, är det möjligt att ta, säg, att räkna antalet kratrar på månen eller prognos efterskalv efter jordbävningen.

Men tillförlitligheten och effektiviteten i mer komplexa algoritmer som används för att analysera mycket stora datamängder för att söka efter och identifiera tidigare okända faktorer eller förhållanden mellan de olika funktionerna "testet är mycket svårare", säger Allen. Därmed oförmåga att kontrollera de uppgifter, valt sådana algoritmer kan leda till felaktiga slutsatser.

Ta till exempel den exakta medicin när utvecklingen av effektiva metoder för behandling av specialister genomföra analys av metadata för de patienter, som försöker att hitta vissa grupper av människor med liknande genetiska egenskaper. Några AI-program som utformats för att "sålla" den genetiska data som visar dess effektivitet, lyckats identifiera grupper av patienter med liknande anlag, till exempel utveckling av bröstcancer. Men de är ganska ineffektiva i att fastställa andra typer av cancer som kolorektal. Varje algoritm analyserar data på olika sätt, så när du kopplar resultaten kan ofta vara en konflikt i klassificeringen av urvalet av patienter. Detta i sin tur gör att forskare undrar vad AI kommer så småningom att lita på.

Dessa motsättningar uppstår från det faktum att uppgifterna algoritmer analys är avsedd att lyda är inneboende i dessa algoritmer är de instruktioner som lämnar inget utrymme för tvekan, osäkerhet, förklarar Allen.

"Om du sätter en uppgift klustring algoritm är att hitta en sådan grupp i sin databas, kommer det att utföra uppgiften och säger att de hittat flera grupper enligt den angivna parametrar. Säg hitta tre grupper, hittar han tre. Begäran om att hitta fyra, han hittar fyra" — säger Allen.

"I själva verket är den verkliga effektiviteten i denna AI kommer att visas när programmet kommer att kunna svara något i stil med: "jag tror verkligen att denna grupp av patienter som lämpar sig för den önskade klassificering, men i det här fallet är dessa människor vars skivor jag har också kontrollerat och jämfört, jag är inte riktigt säker."

Forskare gillar inte osäkerhet. Men traditionella metoder för att bestämma osäkerheten är utvecklade för de tillfällen när du vill analysera data som har blivit särskilt utvalda för att utvärdera en viss hypotes. Programmet AI för data mining fungerar inte så. Dessa program drivs av några vägledande idé och bara analysera datamängder samlas in utan ett specifikt syfte. Därför, nu många forskare inom AI-området, bland annat Allen själv, är engagerade i utvecklingen av nya program som kommer att tillåta AI-system av en ny generation för att bedöma noggrannheten och reproducerbarhet av sina upptäckter.

Forskare förklarar att en av de nya metoder för djupa analyser kommer att baseras på konceptet att sampla. Till exempel, om AI-system som förmodligen kommer att göra en viktig upptäckt, till exempel, att definiera kliniskt viktig grupp för patienter studien, denna öppning ska visas i andra databaser. För att skapa en ny och stora datamängder i syfte att testa giltigheten av provet AI är mycket dyrt för forskare. Därför, enligt Allan, du kan använda en metod som "du kommer att använda ett befintligt dataset, som kommer att vara slumpmässigt blandade så att det är imiterade helt ny databas". Och om gång efter gång AI kommer att kunna identifiera de karakteristiska funktioner, gör det möjligt att genomföra de nödvändiga kategorisering, "i det här fallet kan anses som du var verkligen en riktig upptäckt, säger Allan.

Anmäl dig till vårt att vara medveten om den senaste utvecklingen från en värld av vetenskap och teknik.