Hvorfor forskere bør ikke stole på AI i saker som er av vitenskapelig oppdagelse, i hvert fall for nå

Vi lever i en gullalder av vitenskapelige bevis, å omgi seg med store reserver av genetisk informasjon, medisinske bilder og data på astronomiske observasjoner. Den nåværende evner, av maskinlæring algoritmer tillate kunstig intelligens så raskt som mulig, og på samme tid, veldig nøye undersøke dette data, ofte åpne døren til potensielt nye vitenskapelige funn. Vi skal imidlertid ikke blindt stole på resultatene av vitenskapelig forskning utført av AI, sier forsknings-spesialist rice University Jenever Allen. I alle fall ikke på det nåværende nivå av utvikling av denne teknologien. Ifølge forsker, problemet er at moderne systemer for kunstig INTELLIGENS har ingen evne til kritisk vurdering av resultatene av deres arbeid.

Ifølge for å Allen, AI-system ved bruk av maskinen læringsmål, det er, når læring skjer i prosessen med å anvende løsninger til mange lignende problemer, ikke bare gjennom innføring og etterlevelse av de nye regler og forskrifter, kan være klarert for å gjøre noen beslutninger. Om å snakke mer presist, på AI er det mulig å tilordne oppgaver i å ta opp problemer i de områdene hvor det endelige resultatet kan lett bli kontrollert og analysert av mannen selv. Som et eksempel, det er mulig å ta, sier telle antallet kratre på månen eller prognose etterskjelv etter jordskjelvet.

Imidlertid nøyaktigheten og effektiviteten av mer komplekse algoritmer som brukes til å analysere svært store datasett for å søke etter og identifisere ukjente faktorer eller forhold mellom de ulike funksjonene "test er mye mer vanskelig, sier Allen. Dermed manglende evne til å kontrollere data, valgt slike algoritmer kan føre til feilaktige vitenskapelige konklusjoner.

Ta, for eksempel, er den eksakte medisin når for utvikling av effektive metoder for behandling av spesialister utfører analyse av metadata av pasienter, prøver å finne bestemte grupper av mennesker med samme genetiske egenskaper. Noen AI programmer som er laget for "granskes" den genetiske data viser sin effektivitet, lykkes med å identifisere grupper av pasienter med lignende anlegg, for eksempel til utvikling av brystkreft. De er imidlertid ganske ineffektive i å bestemme andre typer kreft, for eksempel kolorektal. Hver algoritme som analyserer data på forskjellig måte, så når du er sammen resultatene kan ofte være en konflikt i klassifisering av utvalget av pasienter. Dette i sin tur gjør forskere lurer på hva AI slutt vil stole på.

Disse motsetninger oppstår fra det faktum at data analyse algoritmer er utviklet for å adlyde er iboende i disse algoritmene er instruksjonene som forlater ingen rom for tvil, usikkerhet, sier Allen.

"Hvis du putter en oppgave clustering algoritmen er å finne en slik gruppe i sin database, vil det utføre oppgaven og si at de fant flere grupper i henhold til de angitte parametere. Si finne tre grupper, vil han finne tre. Be om å finne fire, han finner fire" — sier Allen.

"faktisk, den virkelige effektiviteten av slike AI vil bli vist når programmet vil være i stand til å svare noe sånt som: "jeg tror virkelig at denne gruppen av pasienter egnet for ønsket klassifisering, men i det tilfellet her, dette er mennesker som poster jeg også sjekket og sammenlignet, jeg er ikke helt sikker."

Forskere liker ikke usikkerhet. Imidlertid, tradisjonelle metoder for å bestemme usikkerheten i målingen er utviklet for de anledninger du ønsker å analysere data som har blitt spesielt valgt ut til å vurdere en gitt hypotese. Programmet AI for data mining arbeid er ikke slik. Disse programmene er drevet av noen styrende ideen og bare analysere datasett samlet inn uten noe bestemt formål. Derfor, nå er mange forskere i AI-området, inkludert Allen selv, er engasjert i utvikling av nye protokoller som vil tillate AI systemer av ny generasjon, for å vurdere nøyaktighet og reproduserbarhet av sine funn.

Forskeren forklarer at en av de nye metoder for dype analyser vil bli basert på konseptet av resampling. For eksempel, hvis AI-system som angivelig vil få en viktig oppdagelse, for eksempel, å definere klinisk viktig gruppe for studier av pasienter, denne åpningen skal bli vist i andre databaser. For å opprette en ny og store datasett for å teste gyldigheten av prøven AI er veldig dyrt for forskere. Derfor, i henhold til Allan, kan du bruke en tilnærming som "du vil bruke et eksisterende datasett, som vil være tilfeldig blandet slik at det er imiterte den splitter nye database". Og hvis du gang etter gang AI vil være i stand til å identifisere de karakteristiske funksjoner, slik at for å gjennomføre nødvendige kategorisering, "i dette tilfellet kan anses som at du var faktisk en reell oppdagelse, sier Allan.

Abonner på vårt å være oppmerksom på den nyeste utviklingen fra verden av vitenskap og teknologi.