Hur att fuska artificiell intelligens och vad detta innebär

Utanför fönstret 2022. Du går på en självgående bil som vanligt i staden. En bil närmar stop skylt, som tidigare körde många gånger, men den här gången stannar framför honom. Detta stop som de andra. Men för bil är det helt annorlunda. Några minuter tidigare utan att berätta det för någon, angriparen fast på skylten liten skylt, osynlig för det mänskliga ögat, men som inte kan undgå att lägga märke till teknik. Det är ett litet klistermärke på den skylt som visade stopp logga in på något helt annorlunda från stop skylt.

Allt detta kan verka otroligt. Men växande fält av forskning visar att artificiell intelligens kan bli lurad som så att om ni ser någon liten detalj, helt osynlig för människor. Som maskinlärande algoritmer är allt som visas på våra vägar, vår ekonomi, vår hälsa-system, dator hoppas forskare att lära sig mer om hur man skyddar dem från liknande attacker — innan någon försöker lura dem på riktigt.

"Detta är ett växande problem i området maskininlärning och AI gemenskapen, särskilt eftersom dessa algoritmer används mer och mer, säger Daniel Lode, Docent i data-och informationsvetenskap vid University of Oregon. "Om spam passerar eller blockerade flera e-postmeddelanden, detta är inte slutet av världen. Men om du förlitar dig på vision system som själv kör bil som berättar hur man kör bil i något utan att krascha, priser kommer att vara mycket högre."

Oavsett om bilen går sönder eller äventyras, kommer det att skada maskinlärande algoritmer för att "se" världen. Och här är maskinen Panda börjar se ut som en Gibbon, och buss — som strutsen.

I ett experiment har forskare från Frankrike och Schweiz visade hur dessa störningar kan tvinga datorn att av misstag ta ekorre gray Fox, och kaffekanna för en papegoja.

Hur är detta möjligt? Fundera på hur ett barn lär sig att känna igen siffror. Titta på tecken i taget, börjar barnet att märka vissa gemensamma egenskaper: några är längre och smalare, sex och nio innehåller en enda stor slinga, och åtta — två, och så vidare. När de ser nog exempel, att de snabbt kan känna igen den nya nummer i fyror och åttor eller treor, även om teckensnittet eller handstil de kommer inte att se ut exakt samma som alla andra fyror och åttor, eller treor, de har någonsin sett.

Maskinlärande Algoritmer lära sig att läsa världen genom en liknande process. Forskarna matade en dator hundratals eller tusentals (vanligtvis markerade) exempel på vad de skulle vilja att upptäcka på datorn. När maskinen sållar data är ett nummer, det är det inte, det är en siffra som inte — hon börjar märka de funktioner som leder till svaret. Snart hon kan titta på en bild och säger: "Det är fem!" med hög noggrannhet.

Således, som mänskliga barn och datorer kan lära sig att känna igen ett stort antal objekt, från nummer till katter, från båtar till separat mänskliga enheter.

Men, till skillnad från de barn som av en människa och dator betalar ingen uppmärksamhet till detaljer hög nivå — som lurviga öron av katter eller särskiljande kantiga form av fyra. Han verkar inte se hela bilden.

I Stället, han ser ut på de enskilda pixlarna i bilden — och det snabbaste sättet att dela objekt. Om den stora majoriteten av enheter kommer att ha en svart pixel på en viss punkt och ett par vita pixlar på andra platser, kommer maskinen att snabbt lära sig att bestämma flera pixlar.

Nu tillbaka till skylten. Diskret justera pixlar i bilden — experter kallar ingripandet "störningar" — du kan lura datorn och göra att du tror att skylten är i själva verket inte är det.

I Liknande studier som genomförts i Laboratorium av evolutionära artificiell intelligens vid University of Wyoming och Cornell University, har gjort en hel del av optiska illusioner för artificiell intelligens. Dessa psykedeliska bilder av abstrakta mönster och färger som ingen annan för människor, men snabbt igen av datorn i form av ormar eller gevär. Det talar om hur AI kan titta på något och inte se objektet, eller att se i stället för något annat.

Denna svaghet är vanligt förekommande i alla typer av maskinlärande algoritmer. "Förväntar du dig att varje algoritm har en spricka i rustningen, säger Yevgeny vorobeichik, Docent i datavetenskap vid Vanderbilt University. "Vi lever i en mycket komplex, flerdimensionell värld, och algoritmer, till sin natur, påverkar bara en liten del av det".

Vorobeichik, "mycket säker" som om dessa säkerhetsproblem finns, någon kommer att lista ut hur man använder dem. Förmodligen någon redan har gjort det.

Tänk spam-filter, automatiserade program för att eliminera eventuella obekväma e-post. Spammare kan försöka att kringgå detta hinder genom att ändra stavningen av ord (i stället för viagra VI@gra) eller genom att lägga till en lista över "goda ord" som är vanligt i normala bokstäver som "ja", "mig", "glad". Under tiden, de som skickar skräppost kan prova att ta bort ord som förekommer ofta i spam, som "mobil" eller "vinna".

Vad kan gå bedragare på en dag? Den som själv kör bil, lurade av klistermärke på skylten är en klassisk skript som uppfanns av experter idet här området. Ytterligare data kan hjälpa till att pornografi för att slinka igenom säker filter. Andra kan försöka öka antalet kontroller. Hackare kan justera koden av skadlig programvara för att undgå lagen.

Lagöverträdare kan förstå hur man kan skapa skicka data, om du får en kopia av maskininlärning algoritm, som vill fuska. Men för att få igenom algoritmen, det är inte nödvändigt. Du kan bara bryta det med brute force, kasta honom lite olika versioner av e-post eller bilder tills de passerar. Över tid, det kan även användas för en helt ny modell, som vet att söker de goda, och vad man ska göra för att lura dem.

"Människor manipulera maskinen lärande system, eftersom som de presenterades för första gången," sade Patrick McDaniel, Professor i datavetenskap vid University of Pennsylvania. "Om människor som använder dessa metoder kan vi inte ens vet om det".

Dessa metoder kan dra nytta inte bara från Bluff — människor kan fly från x-ray eyes av modern teknik.

"Om du är någon form av politisk dissident i en repressiv regim och vill hålla evenemang utan kunskap om säkerhet tjänster, du kan behöva undvika automatisk observation tekniker baserade på maskininlärning, säger Lode.

I ett av projekten, som publicerades i oktober, forskare från University Carnegie — Mellon skapade ett par glasögon som kan subtilt vilseleda facial recognition system, vilket gör datorn för att av misstag ta skådespelerskan Reese Witherspoon för Russell Crowe. Det låter löjligt, men denna teknik kan vara användbar för någon som desperat försöker att undvika censur på en del av dem som har makten.

Vad du ska göra med allt detta? "Det enda sättet att undvika detta är att skapa en perfekt modell för att alltid vara rätt, säger Lode. Även om vi skulle kunna skapa en artificiell intelligens som skulle överträffa människor i alla avseenden, världen är fortfarande möjlighet att äta en gris på en oväntad plats.

Maskinlärande Algoritmer är oftast utvärderas enligt deras riktighet. Programmet, som erkänner stolar i 99% av fallen är helt klart bättre än den som känner 6 av 10 stolar. Men vissa experter erbjuder ett annat sätt att bedöma möjligheten av algoritmen för att hantera de mer våldsamma attack är, desto bättre.

En Annan lösning kan ligga i det faktum att experterna kunde be program specifika priser. Skapa dina egna exempel på attacker i laboratoriet, baserat på de funktioner av brottslingar i din åsikt, och sedan visa dem maskinen inlärningsalgoritm. Det kan hjälpa honom att bli mer hållbar över tid — naturligtvis under förutsättning att testa attacken kommer att vara av en typ som kommer att testas i den verkliga världen.

"machine learning System — ett verktyg för förståelse. Vi måste vara rimliga och rationella i förhållande till vad vi ger dem och vad de berättar för oss," sade McDaniel. "Vi bör inte behandla dem som perfekt orakel av sanningen."