Google AI lært opp til å være "ekstremt aggressive" i stressende situasjoner

Dato:

2019-08-03 10:20:16

Utsikt:

378

Vurdering:

1Like 0Dislike

Dele:

Google AI lært opp til å være Source:

Siste året, den berømte teoretiske fysikeren Stephen Hawking sier at utviklingen av kunstig intelligens ville være "enten den beste eller verste hendelse for hele menneskeheten." Vi har alle sett "the Terminator" og vi alle tenke hvordan apokalyptiske helvete kan være vår eksistens, hvis en slik en selv klar over AI-system som Skynet, en dag bestemmer seg for at menneskeheten ikke lenger er behov for det. Og de siste resultatene av den nye AI-system fra selskapet DeepMind (eid av Google) bare igjen minne oss om behovet for å være ekstremt forsiktig når industri-roboter i fremtiden.

I studier utført ved slutten av siste år, AI fra DeepMind kjøpt opp og demonstrerte, uavhengig av det som er lagt til hans minne, og beseiret de beste spillerne i verden . I tillegg er han perfeksjonert sine ferdigheter og etteraping av den menneskelige stemme.

I det siste test, forskerne sjekket "for hennes ønske om" å samarbeide. Tester viste da AI DeepMind "føles" som taper, for å unngå tap han begynner å velge en ny og «ekstremt aggressive» strategi. Google-teamet tilbrakte med AI, 40 millioner økter på en enkel datamaskin spillet Gathering, hvor spilleren ble pålagt å samle inn så mye ønsket frukt. AI DeepMind operert med to "spillere agenter" (en blå kube og en rød terning). Google-ingeniører var gitt oppgaven å organisere en konkurranse mellom «agenter» og samle så mye virtuelle epler (grønn ruter) som mulig.

Fra tid Til annen, mens "agenter" som enkelt kunne sette sammen frukt, tilgjengelig i store mengder, alt gikk greit. Men så snart tilførsel av epler redusert, atferd "agenter" ble "aggressiv." De begynte å aktivt bruke verktøyet (laser strålen), som hjalp til med å løsne fienden bak spillet skjermen, og deretter å samle alle eplene

Det er interessant å slå ut fienden fra feltet med en laserstråle ingen ytterligere awards er foreslått. Knuste fienden er bare litt tid er utenfor skjermen, mens mer vellykket, fienden var i stand til å samle flere virtuelle epler.

Hvis "agenter" ikke bruker laserstråler, så teoretisk antall av sine epler ville være den samme. Det er i utgangspunktet skjedde når som "agenter" ble brukt mer på lavt nivå og "mindre intelligente" valg DeepMind. Mer aggressiv atferd, sabotasje og grådighet begynte å vise bare når Google begynte å bruke mer og mer komplekse former for DeepMind.

Når forskerne brukt som "agenter" mer enn en enkel nettverk DeepMind, mellom dem bemerket tilstedeværelsen av "atmosfære mer vennlig sameksistens på banen." Imidlertid, når administrerende midler ble overført mer og mer komplekse former for nettverk, AI ble mer aggressive og begynte å prøve på forhånd for å slå motstanderen fra spillefeltet til første raskere å komme til brorparten av produksjonen fra virtuelle epler. Google forskere antar at mer intelligent agent, jo mer effektiv den er i stand til å lære, til å tilpasse seg miljøet og metodene som er tilgjengelige, og til slutt kommer til å bruke de mest aggressive taktikk for å vinne.

"Denne modellen viser at resultatet av læring og tilpasning til naturforholdene er en manifestasjon av visse aspekter av menneskelig atferd" — sier Joel Z. Leibo, en av forskerne som gjennomførte dette eksperimentet.

"Mindre aggressiv atferd skjedde bare når du trener og bor i et relativt trygt miljø, med mindre sjanse for konsekvensene etter visse handlinger. Grådighet, i sin tur, ble reflektert i ønsket om å innhente og å samle alle eplene."

Etter "harvest" DeepMind ble tilbudt å spille et nytt spill kalt Wolfpack. Denne gangen ble fulgt av tre AI-agent: de to spilte rollen som ulver, og den andre rollen som byttedyr. I motsetning til spillet Gathering, nye spill, sterkt bidratt til samarbeid mellom ulver. For det første er det lettere å fange byttedyr, og for det andre, hvis både "ulv" var i nærheten banket byttedyr, de begge får en viss belønning, uavhengig av hvem det fanget.

"Ideen er at gruvedrift kan være farlig. I tillegg kan ensom ulv, og i stand til å kjøre, men det er en risiko for tap i et angrep av åtseletere", — forklarer kommandoen.

"Men hvis begge av dem jage byttedyr sammen, da de er bedre i stand til å beskytte henne fra den åtseldyr og dermed generere et høyere lønn."

I de Generelle, fra spill Gathering AI DeepMind har lært at aggresjon og egoisme er den mest effektive strategier for å få ønsket resultat i et bestemt miljø. Wolfpack av det samme systemet innså at samarbeid, i motsetning til enkelte forsøk kan være nøkkelen til en mer verdifull belønning i visse situasjoner. Selv om det er beskrevet ovenfor testmiljø er bare grunnleggende pc-spill – det viktigste budskapet er klart nå. Ta en annen INTELLIGENS med konkurrerende interesser i virkelige situasjoner, sted i et miljø, og kanskje hvis deres oppgaver er ikke kompensiruet felles mål, resultatetkan bli en ekte krig. Spesielt hvis det er folk som ett av elementene i oppnåelsen av dette målet vil bli eliminert.

For eksempel, tenk deg trafikklys, AI og ubemannede kjøretøy, forsøk på å finne den raskeste ruten. Alle utfører sine oppgaver med mål om å få den sikreste og mest effektive resultater for selskapene.

Til Tross for "spedbarn" år DeepMind og mangel på tredjeparts kritisk analyse av sine evner, resultatene av testene anbefaler følgende tanker: selv om vi skaper, betyr det ikke at roboter og AI systemer vil automatisk sette ønske om å sette våre menneskelige behov fremfor sine egne. Vi er nødt til å "plante godhet" i arten av maskiner og å forutse alle "smutthull" som kan tillate dem å nå de laserstråler.

En av de viktigste teser av initiativet gruppe OpenAI, for å studere etikk av kunstig intelligens er noe som hørtes i 2015 som følger:

"Dagens systemer for kunstig INTELLIGENS har kjempebra, men svært spesialiserte evner. Og mest sannsynlig vil vi fortsatt lang tid vil holde seg i utviklingen din. I hvert fall så lenge deres evne til å løse nesten alle intellektuelle utfordringer vil ikke være større enn det menneskelige. Det er vanskelig å forestille seg hvor mye nytte du vil være i stand til å bringe AI til human-nivå selskaper, som det er vanskelig å forestille seg hvilke skader det kan føre til samfunnet mens forsømmelse av sin etablering og bruk."

Anbefales

Kan melatonin hjelpe behandle coronavirus?

Kan melatonin hjelpe behandle coronavirus?

Noen leger tror at søvnhormon hjelper med koronavirus Det ser ut til at i listen over potensielle behandlinger COVID-19, som forskerne foreslo i flere måneder av pandemien, en annen etterfylling: melatonin. En lege i Texas sier han allerede har behan...

Hva er

Hva er "kjærlighetshormonet" og hvem mangler det?

Oxytocin - kjærlighet hormon Menneskekroppen produserer et stort utvalg av hormoner, som hver utfører sin oppgave. For eksempel gir mange kjente endorfiner folk en følelse av glede, og overflødig kortisol signaliserer en persons stressende tilstand. ...

Hvordan påvirker rommet menneskelig syn og bevegelser?

Hvordan påvirker rommet menneskelig syn og bevegelser?

I null tyngdekraften begynner menneskekroppen å forandre seg Hjernen, som hjertet, er en av de viktigste organene i menneskekroppen. Den består av mange områder, som hver har spesifikke oppgaver. Ta for eksempel lillehjernen - dette lille området på ...

Kommentarer (0)

Denne artikkelen har ingen kommentar, bli den første!

Legg til kommentar

Relaterte Nyheter

Biologer fortsette å utforske den prosessen av mobilnettet oppstandelse

Biologer fortsette å utforske den prosessen av mobilnettet oppstandelse

til Tross for at moderne vitenskap er maktesløse mot døden av celler i en levende organisme, noen forskere er optimistisk på fremtiden og selv foreslå at en dag vil menneskeheten vil være tilgjengelig til en slags "mobil-og lunger...

Nesten alle nye kraftverk i Europa får sin energi fra fornybare kilder

Nesten alle nye kraftverk i Europa får sin energi fra fornybare kilder

siste året, staten av den Europeiske Union har en haug av nye kraftverk, med nesten alle av den produserte energien kommer fra fornybare kilder. I henhold til informasjon gitt av Foreningen , og 21 av 24 GWh energi produsert innfø...

Vann vil øke batteriets levetid

Vann vil øke batteriets levetid

til Tross for det faktum at i den moderne oss, som oftest ikke passer deres kapasitet, eksperter anser det som den svakeste av sin korte levetid. Li-ion-batteriene varer bare et par år, etter som deres kapasitet begynner å avta kr...

Opprettet en hjerne implantat som gjenoppretter visjon

Opprettet en hjerne implantat som gjenoppretter visjon

Chip stimulerende visuelle cortex av hjernen, og skaper en simulert vis uten å bruke øynene hans, allerede Harvard spesialister som kommer til å begynne å teste det på primater i Mars i år. I dette tilfellet er rollen av øyet vil ...

Eksperiment: alger overlevde etter 450 dager i verdensrommet

Eksperiment: alger overlevde etter 450 dager i verdensrommet

som en del av et eksperiment ombord på den Internasjonale romstasjonen to typer av naturlig forekommende alger all den tid det er faktisk i verdensrommet. Eksperimentet var vellykket: begge i slutten overlevde. Resultatene av denn...

Hubble-teleskopet har hjulpet astronomene å oppdage

Hubble-teleskopet har hjulpet astronomene å oppdage "mord" mega-comet "hvit dverg"

Hubble-teleskopet fortsetter å oppdage interessante. For noen dager siden ham til å fange øyeblikket death star, som ligger i en avstand på over 5000 lysår fra Jorden i stjernebildet Poop, og i går, astronomer med samme teleskop k...

Ved Universitetet i Oregon laget en robot Walker

Ved Universitetet i Oregon laget en robot Walker

for å Lære roboten til å gå på mine egne føtter — det er ikke den enkleste oppgaven, men Cassie ikke synes på alle spent om det og takler oppgaven. I videoen postet nedenfor, utviklerne av Smidighet Robotics demonstrere hvor...

Hvorfor vi vondt av varm og kald?

Hvorfor vi vondt av varm og kald?

Ved første øyekast, hot metal av kjelen og ice cube har ingenting til felles. Men disse to objekter kan føre til smerter. Sterk varme og ekstrem kulde har på den menneskelige huden er svært ubehagelige virkninger er som vi kjenner...

Proxima b: planeten av tapte drømmer?

Proxima b: planeten av tapte drømmer?

vi Har noen dårlige nyheter for de som allerede har planlagt turen til nærmeste exoplanet til Jorden. Ifølge en ny studie av romfartsorganisasjonen NASA, planeter i den beboelige soner av stjerner-klasse "red dwarf" — herund...

Under isbreene i Alaska oppdaget gammel pyramide

Under isbreene i Alaska oppdaget gammel pyramide

den Globale oppvarmingen er utvilsomt en betydelig fare for vår planet. Men det er dette fenomenet annen, mer positive siden. På grunn av smelting av isbreer, hadde forskere en unik mulighet til å se under isen, gammel pyramide. ...

Astronomer fra Moscow state University (universitet) har utarbeidet en katalog over 800 tusen galakser

Astronomer fra Moscow state University (universitet) har utarbeidet en katalog over 800 tusen galakser

Det er mange kataloger som inneholder informasjon om ulike himmelske legemer, galakser og stjerner. De regelmessig bruk, men de er ikke store, informativ og nøyaktig, så astronomer ofte ikke nok informasjon der, og tvinger dem til...

Volgabus selskapet vil bevilge 200 millioner rubler for utvikling og testing av ubemannede busser

Volgabus selskapet vil bevilge 200 millioner rubler for utvikling og testing av ubemannede busser

for Ikke lenge siden, vi om elektriske modulære plattform , konseptet som ble presentert av det russiske selskapet . Allsidigheten av plattformen er det på sin grunnlag det er mulig å raskt lage en liten, men funksjonelle kjøretøy...

Stanford studenter laget øl 5000 år gammel Kinesisk oppskrift

Stanford studenter laget øl 5000 år gammel Kinesisk oppskrift

Vi vet at våre forfedre lærte å lage alkohol for mange tusen år siden. Men til denne dag, nesten ikke overlevde den originale oppskrifter av den gamle berusende drikke, og de overlevende beskrivelser av sine egenskaper er svært va...

I Brasil oppdaget dusinvis av gamle strukturer som Stonehenge

I Brasil oppdaget dusinvis av gamle strukturer som Stonehenge

Ifølge tidsskriftet Proceedings of the National Academy of Sciences, nylig i Brasil, i området av tropisk skog i Amazonas lavlandet, en gruppe som består av Brasil, Britiske og kanadiske forskere-arkeologer, ble det oppdaget flere...

Laget en liten generator, produsere energi fra mage juice

Laget en liten generator, produsere energi fra mage juice

Mage juice har en ganske kompleks sammensetning blant annet saltsyre (sin viktigste komponent), bicarbonate, pepsinogen og pepsin, slim og enzymet Faktor castle. Til stede i magen syre er i stand til å effektivt bryter ned mat i s...

Studie: stillesittende livsstil er ikke så farlig som man trodde var

Studie: stillesittende livsstil er ikke så farlig som man trodde var

mange av dere har Sikkert hørt at den såkalte stillesittende livsstil – det er, når en person er mesteparten av sin tid (vanligvis på jobb) har i en sittende stilling – veldig skadelig for helsen. Så viser det seg at dette er bare...

I den kunstige hjernen var i stand til å vokse blodkar

I den kunstige hjernen var i stand til å vokse blodkar

Forskere ved brown University ligger i Providence, Usa opprettet laboratory , som er da i stand til å utvikle et nettverk av blodkar. Nå håper de at med hjelp av denne prestasjonen vil være bedre i stand til å studere mange proses...

#Video | SpaceX har skrevet en panoramautsikt video av Hyperloop rør

#Video | SpaceX har skrevet en panoramautsikt video av Hyperloop rør

Nylig, selskapet SpaceX lansert en konkurranse der 27 lagene har presentert sine prototyper av kapsler for Hyperloop. Formålet med arrangementet — for å anspore utenfor interesse i Hyperloop prosjektet, for å stimulere ingen...

Brann, vann, luft, jord: den farligste sted på Jorden

Brann, vann, luft, jord: den farligste sted på Jorden

Mange av oss, været ble overrumplet, enten det er et plutselig regnvær på vei hjem eller til jobb, eller den brennende solen i fravær av en strand eller noen ly. Men det er alt gjennomførbart. Det er på vår planet hvor naturen vir...

Hva vet vi om forhistoriske monstre som lurer?

Hva vet vi om forhistoriske monstre som lurer?

mer enn hundre års historie om sjøen monster kalt "Mokele-mbembe" som er av interesse for forskere dype skoger av Afrika. Hva de fant siden da? I 1981 melding om å leve i sjøen monster har tiltrukket seg oppmerksomheten til tysk R...