Google AI lært opp til å være "ekstremt aggressive" i stressende situasjoner

Siste året, den berømte teoretiske fysikeren Stephen Hawking sier at utviklingen av kunstig intelligens ville være "enten den beste eller verste hendelse for hele menneskeheten." Vi har alle sett "the Terminator" og vi alle tenke hvordan apokalyptiske helvete kan være vår eksistens, hvis en slik en selv klar over AI-system som Skynet, en dag bestemmer seg for at menneskeheten ikke lenger er behov for det. Og de siste resultatene av den nye AI-system fra selskapet DeepMind (eid av Google) bare igjen minne oss om behovet for å være ekstremt forsiktig når industri-roboter i fremtiden.

I studier utført ved slutten av siste år, AI fra DeepMind kjøpt opp og demonstrerte, uavhengig av det som er lagt til hans minne, og beseiret de beste spillerne i verden . I tillegg er han perfeksjonert sine ferdigheter og etteraping av den menneskelige stemme.

I det siste test, forskerne sjekket "for hennes ønske om" å samarbeide. Tester viste da AI DeepMind "føles" som taper, for å unngå tap han begynner å velge en ny og «ekstremt aggressive» strategi. Google-teamet tilbrakte med AI, 40 millioner økter på en enkel datamaskin spillet Gathering, hvor spilleren ble pålagt å samle inn så mye ønsket frukt. AI DeepMind operert med to "spillere agenter" (en blå kube og en rød terning). Google-ingeniører var gitt oppgaven å organisere en konkurranse mellom «agenter» og samle så mye virtuelle epler (grønn ruter) som mulig.

Fra tid Til annen, mens "agenter" som enkelt kunne sette sammen frukt, tilgjengelig i store mengder, alt gikk greit. Men så snart tilførsel av epler redusert, atferd "agenter" ble "aggressiv." De begynte å aktivt bruke verktøyet (laser strålen), som hjalp til med å løsne fienden bak spillet skjermen, og deretter å samle alle eplene

Det er interessant å slå ut fienden fra feltet med en laserstråle ingen ytterligere awards er foreslått. Knuste fienden er bare litt tid er utenfor skjermen, mens mer vellykket, fienden var i stand til å samle flere virtuelle epler.

Hvis "agenter" ikke bruker laserstråler, så teoretisk antall av sine epler ville være den samme. Det er i utgangspunktet skjedde når som "agenter" ble brukt mer på lavt nivå og "mindre intelligente" valg DeepMind. Mer aggressiv atferd, sabotasje og grådighet begynte å vise bare når Google begynte å bruke mer og mer komplekse former for DeepMind.

Når forskerne brukt som "agenter" mer enn en enkel nettverk DeepMind, mellom dem bemerket tilstedeværelsen av "atmosfære mer vennlig sameksistens på banen." Imidlertid, når administrerende midler ble overført mer og mer komplekse former for nettverk, AI ble mer aggressive og begynte å prøve på forhånd for å slå motstanderen fra spillefeltet til første raskere å komme til brorparten av produksjonen fra virtuelle epler. Google forskere antar at mer intelligent agent, jo mer effektiv den er i stand til å lære, til å tilpasse seg miljøet og metodene som er tilgjengelige, og til slutt kommer til å bruke de mest aggressive taktikk for å vinne.

"Denne modellen viser at resultatet av læring og tilpasning til naturforholdene er en manifestasjon av visse aspekter av menneskelig atferd" — sier Joel Z. Leibo, en av forskerne som gjennomførte dette eksperimentet.

"Mindre aggressiv atferd skjedde bare når du trener og bor i et relativt trygt miljø, med mindre sjanse for konsekvensene etter visse handlinger. Grådighet, i sin tur, ble reflektert i ønsket om å innhente og å samle alle eplene."

Etter "harvest" DeepMind ble tilbudt å spille et nytt spill kalt Wolfpack. Denne gangen ble fulgt av tre AI-agent: de to spilte rollen som ulver, og den andre rollen som byttedyr. I motsetning til spillet Gathering, nye spill, sterkt bidratt til samarbeid mellom ulver. For det første er det lettere å fange byttedyr, og for det andre, hvis både "ulv" var i nærheten banket byttedyr, de begge får en viss belønning, uavhengig av hvem det fanget.

"Ideen er at gruvedrift kan være farlig. I tillegg kan ensom ulv, og i stand til å kjøre, men det er en risiko for tap i et angrep av åtseletere", — forklarer kommandoen.

"Men hvis begge av dem jage byttedyr sammen, da de er bedre i stand til å beskytte henne fra den åtseldyr og dermed generere et høyere lønn."

I de Generelle, fra spill Gathering AI DeepMind har lært at aggresjon og egoisme er den mest effektive strategier for å få ønsket resultat i et bestemt miljø. Wolfpack av det samme systemet innså at samarbeid, i motsetning til enkelte forsøk kan være nøkkelen til en mer verdifull belønning i visse situasjoner. Selv om det er beskrevet ovenfor testmiljø er bare grunnleggende pc-spill – det viktigste budskapet er klart nå. Ta en annen INTELLIGENS med konkurrerende interesser i virkelige situasjoner, sted i et miljø, og kanskje hvis deres oppgaver er ikke kompensiruet felles mål, resultatetkan bli en ekte krig. Spesielt hvis det er folk som ett av elementene i oppnåelsen av dette målet vil bli eliminert.

For eksempel, tenk deg trafikklys, AI og ubemannede kjøretøy, forsøk på å finne den raskeste ruten. Alle utfører sine oppgaver med mål om å få den sikreste og mest effektive resultater for selskapene.

Til Tross for "spedbarn" år DeepMind og mangel på tredjeparts kritisk analyse av sine evner, resultatene av testene anbefaler følgende tanker: selv om vi skaper, betyr det ikke at roboter og AI systemer vil automatisk sette ønske om å sette våre menneskelige behov fremfor sine egne. Vi er nødt til å "plante godhet" i arten av maskiner og å forutse alle "smutthull" som kan tillate dem å nå de laserstråler.

En av de viktigste teser av initiativet gruppe OpenAI, for å studere etikk av kunstig intelligens er noe som hørtes i 2015 som følger:

"Dagens systemer for kunstig INTELLIGENS har kjempebra, men svært spesialiserte evner. Og mest sannsynlig vil vi fortsatt lang tid vil holde seg i utviklingen din. I hvert fall så lenge deres evne til å løse nesten alle intellektuelle utfordringer vil ikke være større enn det menneskelige. Det er vanskelig å forestille seg hvor mye nytte du vil være i stand til å bringe AI til human-nivå selskaper, som det er vanskelig å forestille seg hvilke skader det kan føre til samfunnet mens forsømmelse av sin etablering og bruk."