Google AI lära sig att vara "extremt aggressiv" i stressiga situationer

Under förra året, den berömda teoretiska fysikern Stephen Hawking sade att utvecklingen av artificiell intelligens skulle vara "antingen det bästa eller sämsta händelse för hela mänskligheten." Vi alla såg "Terminator" och vi alla föreställa sig hur apokalyptiska helvetet kan vara vår existens, om en sådan medveten AI-system som Skynet, en dag bestämmer sig för att mänskligheten inte längre behöver den. Och de senaste resultaten av den nya AI-systemet från företaget DeepMind (som ägs av Google) bara än en gång påminna oss om behovet av att vara ytterst försiktig vid tillverkning av robotar i framtiden.

I studier som genomförts i slutet av förra året, AI från DeepMind förvärvade och visade, oavsett vad som är till hans minne, och besegrade de bästa spelarna i världen . Dessutom har han fulländat sina färdigheter och härmning av den mänskliga rösten.

I det senaste testet, forskarna kontrollerade "hennes önskan" att samarbeta. Tester visade att när AI DeepMind "känns" att förlora, för undvikande av skada han börjar med att välja en ny och «, extremt aggressiva» strategi. Googles team tillbringade med AI, 40 miljoner sessioner på ett enkelt dataspel Insamling, där den spelare som krävs för att samla in så mycket önskad frukt. AI DeepMind drivs med två "spelare agenter" (en blå kub och en röd kub). Google ingenjörer fick i uppdrag att arrangera en tävling mellan «, agenter» och samla in så mycket virtuella äpplen (gröna rutor) som möjligt.

Från tid Till tid, medan "agenter", kan enkelt montera frukt, som finns i stora mängder, allt gick smidigt. Men så snart tillgången på äpplen sjönk, beteende av "agenter" blev till "aggressiva." De började aktivt använda verktyget (laserstrålen), som hjälpte till att driva bort fienden bakom skärmen och sedan för att samla alla äpplen

Det intressant, slå ut fienden från fältet med en laserstråle ingen ytterligare utmärkelser föreslås. Trasiga fienden är bara en viss tid är utanför skärmen, samtidigt som mer framgångsrika, fienden kunde samla fler virtuella äpplen.

Om "agenter" om de inte använder laserstrålar, då teoretiskt antal av deras äpplen skulle vara den samma. Det hände i princip när som "agenter" var används mer låg nivå och "mindre intelligent" alt DeepMind. Mer aggressivt beteende, sabotage och girighet började visa bara när Google började använda mer och mer komplexa former av DeepMind.

När forskarna använde som "agenter" för mer än ett enkelt nätverk DeepMind, mellan dem noterade förekomsten av "atmosfären mer vänliga samexistens på lika villkor." Men när den som förvaltar medel överfördes mer och mer komplexa former av nätverk, AI blev mer aggressiv och började prova i förväg för att slå motståndaren från spelplanen till första snabbare att få till lejonparten av produktion från virtuell äpplen. Google forskare antar att den mer intelligent agent, desto mer effektiv är det möjligt att lära sig, att anpassa sig till den miljö och de metoder som finns tillgängliga, och så småningom kommer att använda den mest aggressiva taktik för att vinna.

"Denna modell visar att resultatet av inlärning och anpassning till miljöförhållanden är en manifestation av vissa aspekter av mänskligt beteende" — säger Joel Z. Leibo, en av forskarna som genomfört detta experiment.

- "Mindre aggressivt beteende uppstod bara när du tränar och bor i en relativt säker miljö, med mindre risk för konsekvenser efter vissa åtgärder. Girighet, i sin tur, var uttryck i önskan att köra och att samla alla äpplen."

Efter en "skörd" DeepMind blev erbjuden att spela ett annat spel som heter Wolfpack. Den här gången var det deltog tre AI-agent: de två spelade rollen av vargar, och den andra rollen som offer. Till skillnad från spelet för att Samla in, nya spel, starkt bidragit till att samarbetet mellan vargar. För det första är det lättare att fånga byten, och för det andra, om både "vargen" var nära dunkade offer, att de både får en viss belöning, oavsett vem det började.

Tanken är att gruvdrift kan vara farligt. Dessutom kan lone wolf och kunna köra, men det finns en risk för förlust i en attack av asätare", — förklarar kommandot.

"Men om båda av dem jaga byten tillsammans, då är de bättre kan skydda henne från asätare och därmed generera en högre lön."

I Allmänhet, från spelet Samla AI DeepMind lärt sig att aggression och egoism är de mest effektiva strategier för att få önskat resultat i en viss miljö. Wolfpack av samma system insåg att samarbete, till skillnad från de enskilda försöken kan vara nyckeln till en mer värdefull belöning i vissa situationer. Även om ovan beskrivna test miljö är endast grundläggande dator – spel-det viktigaste budskapet är klart nu. Ta en annan AI med konkurrerande intressen i verkliga situationer, plats i en och samma miljö, och kanske om deras uppgifter är inte kompensiruet gemensamt mål, resultatkan bli ett riktigt krig. Särskilt om man gillar en av delarna i uppnåendet av detta mål kommer att elimineras.

Som ett exempel, tänk er trafikljusen, AI och obemannade farkoster, försök att hitta den snabbaste vägen. Alla utför sina uppgifter med målet att få den säkraste och mest effektiva resultat för företag.

Trots det "barnet" år DeepMind och avsaknaden av någon tredje part kritisk analys av dess kapacitet, resultatet av sina undersökningar tyder på följande tankar: även om vi skapar, det betyder inte att robotar och AI-system kommer automatiskt att sätta önskan om att sätta våra mänskliga behov framför sina egna. Vi har "växt godhet" i den typ av maskiner och förutse eventuella "kryphål" som kan göra det möjligt för dem att nå de laserstrålar.

En av de viktigaste teserna i initiativet grupp OpenAI, för att studera etik av artificiell intelligens som något lät i och med 2015 enligt följande:

"Dagens AI-system har awesome, men högt specialiserade funktioner. Och mest troligt har vi fortfarande lång tid kommer att hålla i din förbättring. Åtminstone så länge som deras förmåga att lösa så gott som varje intellektuella utmaningar kommer inte vara större än den mänskliga. Det är svårt att föreställa sig hur stor nytta du kommer att kunna ta med AI till mänskliga företag, eftersom det är svårt att föreställa sig vilka skador det kan orsaka att samhället medan försummelse av dess tillkomst och användning."