Hvor å jukse kunstig intelligens og hva dette betyr

Utenfor vinduet 2022. Du går på en selvkjørende bil som vanlig i byen. En bil nærmer stopp skilt, som kjørte forbi mange ganger, men denne gangen er det stopper foran ham. Dette stoppskilt som de andre. Men for bil-det er helt forskjellige. Et par minutter tidligere, uten å fortelle det til noen, angriperen fast på skiltet små tegn, umerkelig for det menneskelige øye, men kan ikke unnlate å legge merke til teknologien. Det er et lite klistremerke på skiltet slått stopp skilt til noe helt forskjellig fra stopp skilt.

Alt dette kan virke utrolig. Men voksende feltet av forskning viser at kunstig intelligens kan være lurt som dette, hvis du ser noen små detaljer, helt usynlig for mennesker. Som maskinlæring algoritmer er i økende grad som vises på våre veier, vår økonomi, vår helse systemet, datamaskinen forskere håper å lære mer om hvordan du kan beskytte dem fra lignende angrep — før noen prøver å lure dem for ekte.

"Dette er en voksende bekymring i feltet av maskinlæring og kunstig INTELLIGENS fellesskap, særlig fordi disse algoritmene er brukt mer og mer," sier Daniel Lode, associate Professor of computer and information Sciences ved University of Oregon. "Hvis spam passerer eller blokkert flere e-poster, dette er ikke slutten av verden. Men hvis du stole på vision-systemet i selvkjørende bil som forteller bil å kjøre i noe uten å krasje, priser som vil være mye høyere."

Uansett bil bryter ned eller blir kompromittert, vil det skade maskinen læring algoritmer som "se" verden. Og her er for maskinen Panda begynner å se ut som en Gibbon, og en skolebuss — som struts.

I et eksperiment, forskere fra Frankrike og Sveits viste hvordan disse forstyrrelsene kan tvinge datamaskinen til å feilaktig ta ekorn grå Fox, og kaffekjelen for en papegøye.

Hvordan er dette mulig? Tenk på hvordan barn lærer å gjenkjenne tall. Ser på ett og ett tegn, barnet begynner å legge merke til noen felles kjennetegn: noen er høyere og slankere, seks og ni inneholde en enkelt stor løkke, og åtte — to, og så videre. Når de ser nok eksempler, kan de raskt kjenne igjen den nye tall i fire, åtte eller treere — selv om skriften eller håndskrift de ikke vil se akkurat det samme som alle andre fire, åtte eller treere, de noensinne før har sett.

Maskinlæring Algoritmer lære å lese om i verden gjennom en noe lignende prosess. Forskere matet en datamaskin hundrevis eller tusenvis av (vanligvis markert), er eksempler på hva de ønsker å oppdage på datamaskinen. Når maskinen sifts data er et tall, det er ikke, det er et tall som er ikke — hun begynner å legge merke til de funksjoner som fører til svaret. Snart kan hun se på et bilde og si, "Det er fem!" med høy nøyaktighet.

Derfor, som menneskenes barn, og datamaskiner kan lære å gjenkjenne et stort antall objekter, fra tall til katter, fra båter til egen menneskelige enheter.

Men, i motsetning til barnet av et menneske og datamaskin betaler ingen oppmerksomhet til detaljer høyt nivå — som pelskledde ører av katter eller den karakteristiske spisse formen på fire. Han ser ikke hele bildet.

I Stedet, han ser på de enkelte punkter i bildet — og den raskeste måten å dele objekter. Hvis det store flertallet av enhetene vil ha en svart boks på et bestemt punkt og et par hvite punkter på andre steder, maskinen vil raskt lære å bestemme flere punkter.

Nå tilbake til stopp skilt. Diskret justere punkter i bildet — eksperter kaller dette intervensjon "forstyrrelsene" — du kan lure datamaskinen og gjøre du tror at stoppskilt er, faktisk ikke.

Lignende studier utført i Laboratoriet av evolusjonære kunstig intelligens ved University of Wyoming og Cornell University, har gjort ganske mye av optiske illusjoner for kunstig intelligens. Disse psykedeliske bilder av abstrakte mønstre og farger som ingen andre for folk, men raskt gjenkjent av datamaskinen i form av slanger eller rifler. Det handler om hvordan AI kan se på noe, og ikke objektet, eller for å se i stedet for noe annet.

På Denne svakheten er utbredt i alle typer algoritmer for maskinlæring. "Du forventer at hver algoritme har et svakt punkt i rustning, sier Jevgenij vorobeichik, førsteamanuensis i informatikk ved Vanderbilt University. "Vi lever i en svært kompleks multidimensjonal verden, og algoritmer, av natur, påvirker bare en liten del av det".

Vorobeichik, "ekstremt sikker" på at dersom disse sikkerhetsproblemene eksisterer, noen vil finne ut hvordan å bruke dem. Sannsynligvis noen har allerede gjort det.

Tenk spam-filtre, automatiserte programmer som eliminere eventuelle vanskelig e-post. Spammere kan prøve å omgå denne barrieren ved å endre skrivemåten av ord (i stedet for viagra VI@gra) eller ved å legge til en liste over "gode ord" som er ofte funnet i vanlig brev som "ja", "meg", "lykkelig". I mellomtiden, den spammere kan du prøve å fjerne ord som forekommer ofte i spam, slik som "mobile" eller "vinne".

Hva kan gå svindlere på en dag? Selv-kjører bil, lurt av klistremerket på stopp skilt er en klassisk skript som ble oppfunnet av eksperter idette området. Ytterligere data kan hjelpe pornografi til å gli gjennom trygg filtre. Andre kan prøve å øke antallet kontroller. Hackere kan justere koden av skadelig programvare, for å unngå å bli politi.

Overtredere kan forstå hvordan å lage overføre data, hvis du får en kopi av maskinlæring algoritmen, som ønsker å jukse. Men for å komme gjennom algoritmen, det er ikke nødvendig. Du kan bare bryte det med rå kraft, kaster ham litt forskjellige versjoner av e-post eller bilder før de passerer. Over tid, kan dette også brukes for en helt ny modell, som vet at på jakt etter de gode gutta, og hva du skal gjøre for å lure dem.

"Folk manipulere machine learning systems siden som de ble presentert for første gang," sa Patrick McDaniel, Professor of computer science and engineering ved University of Pennsylvania. "Hvis folk er ved hjelp av disse metodene, kan vi enda ikke vet om det".

Disse metodene kan være til nytte ikke bare fra Svindel — folk kan flykte fra x-ray øyne av moderne teknologi.

"Hvis du noen form for politisk dissident i et undertrykkende regime, og ønsker å holde hendelser uten kunnskap om sikkerhet tjenester, kan du trenger for å unngå automatisk observasjon teknikker basert på machine learning, sier Lode.

I ett av prosjektene, som ble publisert i oktober, forskere fra Universitetet Carnegie — Mellon opprettet en par briller som kan subtilt villede facial anerkjennelse system, forårsaker datamaskinen til å feilaktig ta skuespiller Reese Witherspoon for Russell Crowe. Det høres latterlig, men denne teknologien kan være nyttig for en person som desperat prøver å unngå sensur på en del av de som har makten.

Hva du skal gjøre med alt dette? "Den eneste måten å unngå dette på er å lage en perfekt modell å alltid være riktig, sier Lode. Selv om vi kunne lage kunstig intelligens som ville overgå mennesker i alle henseender, verden er fortsatt i stand til å ta en gris på et uventet sted.

Maskinlæring Algoritmer er vanligvis vurdert i henhold til deres nøyaktighet. Programmet, som anerkjenner stoler i 99% av tilfellene er klart bedre enn den som gjenkjenner 6 av 10 stoler. Men noen eksperter tilby en annen måte å vurdere muligheten av algoritmen for å takle angrep mer og mer voldelig, jo bedre.

En Annen løsning kan ligge i det faktum at de sakkyndige kunne be programmer bestemt pris. Lag dine egne eksempler på angrep i laboratoriet, basert på kapasiteten til de kriminelle i din mening, så vis dem maskinlæring algoritme. Det kan hjelpe ham til å bli mer bærekraftig over tid — forutsatt selvfølgelig at testen angrep vil være av en type som vil bli testet i den virkelige verden.

"machine learning Systems — et verktøy for å forstå. Vi trenger å være fornuftig og rasjonell i forhold til hva vi gir dem, og hva de forteller oss," sa McDaniel. "Vi bør ikke behandle dem som perfekt orakler av sannheten."