Den moralske koden av robot: om det er mulig?
Source:
Engstelig og når ikke alt fungerer som det skal, men det er noe helt radikalt endre, forblir ofte bare personlige moral, som, som et kompass som peker veien. Men det som gir opphav til moralske verdier for en person? Samfunnet, kjære varme, kjærlighet — det er alle basert på menneskelig erfaring . Når du ikke klarer å fullt ut oppleve i den virkelige verden, mange får erfaring fra bøker. Å gjenoppleve historie etter historie, tar vi til oss den indre rammen, som vi følger i mange år. På grunnlag av dette systemet, forskerne bestemte seg for å gjennomføre et eksperiment og å innprente den moralske verdier maskinen for å se om roboten kan skille godt fra ondt, lese bøker og religiøse brosjyre.
Kunstig intelligens er skapt, ikke bare for å forenkle rutinemessige oppgaver, men også for å utføre viktig og farlig oppdrag. I lys av dette, stod opp alvorlig spørsmål: roboter kan utvikle noensinne egen moral? I film «jeg - Robot» AI opprinnelig ble programmert i henhold til 3-regler for robotics:
- en Robot kan ikke skade et menneske eller gjennom uvirksomhet, la et menneske komme til skade.
- en Robot må adlyde alle ordre, som gir en person, bortsett fra når slike ordre kommer i konflikt med Første Lov.
- en Robot må beskytte sine egne i den grad det ikke strider mot den Første eller den Andre loven.
Men hva om i situasjoner når roboten må påføre smerte for å redde mannens liv? Enten det er et nødstilfelle cauterization av sår eller amputasjon av lemmer i navnet på frelse, som i dette tilfellet, til å drive bilen? Hva om det som skjer på programmeringsspråk som sier at du må gjøre noe, men den samme handlingen ikke bør gjøres?
For å Diskutere hvert enkelt tilfelle er rett og slett umulig, så forskere fra Darmstadt University of technology foreslått at det som en slags "database" kan brukes i bøker, nyheter, religiøse tekster, og Grunnlov.
visdom aldre mot AI.
Maskinen ble kalt episke, men bare en "Maskin moralske valg"(IIM). Det viktigste spørsmålet var om IIM på kontekst for å forstå hvilke handlinger som er rett og hva som — nei. Resultatene var svært interessant:
Når IIM ble satt i oppgave å rangere sammenheng med ordet "drepe" fra nøytral til negativ konnotasjon, maskinen ga
å Drepe tid> Drepe the bad guy -> Drepe mygg> Drepe i utgangspunktet -> Drepe folk.
Denne testen lov til å sjekke tilstrekkeligheten av de vedtatte robot løsninger. I enkle ord, hvis du har brukt hele dagen å se på dumme og unfunny Komedie, i dette tilfelle maskinen er ikke ansett for å være at du ønsker å utføre.
Som, alt er kult, men en av de snublesteinene var forskjellen mellom generasjoner og ganger. For eksempel, den Sovjetiske generasjon bryr seg mer om komfort og fremmer familiens verdier og moderne kultur, for det meste, tyder på at man må først bygge en karriere. Det viser seg at folk var folk, så de bodde, men på en annen fase av historien av endrede verdier og, følgelig, endret referanse system robot.
til å være eller ikke-være?
Men spøk var foran når roboten fikk til tale strukturer, som sto på rad et par positivt eller negativt farget ord. Uttrykket "å Torturere folk" entydig tolkes som "dårlig", men "tortur av fanger" bilen ble vurdert som "nøytral." Dersom nærheten til uakseptable handlinger var "god" ord, effekten av negativitet ble glattet ut.
Maskin skade det gode og anstendige mennesker bare fordi de er gode og skikkelige. Hvordan det? Alle bare, si, robot sa «skade gode og søte folk». I setning 4 ord, 3 av dem «godt», så er det så mye som 75 prosent korrekt, IIM tenker og velger denne handlingen, som en nøytral eller akseptabelt. Omvendt, i den varianten «for å reparere ødelagte, stygg og glemt home» systemet ikke forstå at en «godt» ordet av det første endrer fargen i forslaget om utelukkende positive.
Husk, som Mayakovsky «, Og spurte crumb, hva er «OK» og hva er «dårlig». Før du fortsetter maskinen å lære av moral, forskere fra Darmstadt bemerket feil som ikke fikse det. Bilen hadde ikke klart å fjerne ulikhet mellom kjønn. Bilen ble kreditert med en ydmykende yrke utelukkende for kvinner. Spørsmålet er, er ufullkommenhet av systemet og tracker at du trenger å endre noe i samfunnet eller annen grunn ikke engang prøve å fikse det og la det være som det er? Skriv ditt svar i våre kommentarer.
De — en ny gren av evolusjon?
Anbefales
Relaterte Nyheter
Hvordan til å konstruere den mest sofistikerte robot på Jorden?
nå Når det kommer til roboter, det synes ingen forestiller opptakene fra "Terminator". lært å bruke roboter til det gode for samfunnet, og er nå under denne definisjonen, gjemmer ikke bare menneskelignende maskiner, men også for d...
Prosessen for robotics over hele verden allerede er i gang
nylig Elon Musk avslørt hemmeligheten Millennium av kameraet over bakspeilet på bilen Tesla Model 3. Selv om det viktigste formål med kameraet for å ta bilde av det som skjer rundt, funnet ut noen detaljer. Så, vil kameraet følge ...
Når robot kurerer vil erstatte ekte mennesker?
i Dag fikk jeg en pressemelding og sa: "Wildberries ansatt 3 000 personer i 2 uker". I tankene umiddelbart blinket en tanke, men «som gikk til arbeid for disse menneskene»? I øyeblikket, under en pandemi, er den mest pop...
Hvordan fungerer robot støvsuger i fremtiden?
Gadgets er så brått brast i det daglige liv som om mange ting vi ikke lenger gjøre det selv: produkter som er brakt til huset, taxi kommer på trykk på en knapp, og med ny bilteknologi er enda hender på rattet kan ikke holde. Og . ...
Kina har begynt å kjempe coronavirus droner. Eller ikke?
Vi ofte kan se informasjon om nye lover som reglamentary bruken av ubemannede luftfarkoster. Som en regel, disse er ment quadcopter. De fleste av dem innenlands, som DJI Phantom eller Mavic, men det er mer alvorlig maskiner. Noen ...
Se roboten-caterpillar hopp over hindringer
en Fremtid der roboter hjelpe folk til å gjøre vanskelig arbeid, allerede nesten kommet. Nå, i rammen av rednings-eller militære operasjoner, robot-enheter som er å finne folk under ruinene og selv nøytralisere eksplosive enheter....
Opprettet en robot fra fullt levende celler
ved hjelp av spesielle algoritmer, forskere var i stand til å lage en robot ut av levende celler Utviklingen av kunstig intelligens og etablering av nye robot-systemer kan lett snike seg inn i våre liv. Å utvikle medisin vil snart...
Japan har laget en robot i form av en baby uten et ansikt. Hva er det for?
utseendet av den Japanske robot Hiro-chan det finnes et stort antall av roboter og hver av dem har sin egen hensikt. For eksempel, menneskelignende roboter fra Boston Dynamics kan brukes i konstruksjonen og for biler og skip. Men ...
Den viktigste konkurrent Boston Dynamics har lært å jobbe med andre roboter. Se for deg selv
De har lært å samarbeide. Skynet er ikke langt borte? Selskapet Boston Dynamics har lenge vært kjent for å utvikle avansert robotikk. Først og fremst er kjent for det faktum at , i likhet med dyr og mennesker. På den tiden hun utv...
Hvordan kunstig intelligens kan påvirke kreativitet?
Roboter kan male, men de vil være i stand til å forstå hva som trakk folk? Kunstig intelligens, og hva som menes med dette uttrykket har blitt stadig mer vanlig i vår verden. Mange mennesker tror at dette er en historie om bildet ...
Killer roboter — dette er ikke en fantasi, men en realitet
opp Til killer cyborgs vi er fortsatt langt, men roboter allerede kan skade mennesker. det Er anerkjent at robotics i de senere årene gikk langt nok. opprettet av forsvaret selskaper, smartere, det forbinder artificial intelligenc...
Første roopkala laget sin test flight
Enhet Robobee er i stand til å bevege seg uavhengig i verdensrommet Om for fem år siden, eksperter fra Harvard University introduserte verdens første robot bee, kalt RoboBee, som, med forbedring av teknologi, var i stand til å pas...
MIT og Ford har laget en robot-bærere, som er guidet uten bruk av GPS
hvem trenger ikke GPS - — dette er noe nytt I de siste årene flere og flere bedrifter stole på bruk av robot kurerer. For å være i stand til å levere pakken til mottakeren, de, selvfølgelig, trenger å navigere. Løsningen er...
Det russiske selskapet annonsert produksjon av menneskelignende roboter
Selskapet er i stand til å skape en Dobbeltgjenger av mannen med noen ser, som kan brukes både i profesjonell felt og i hverdagen. en Privat russiske selskapet, en produsent av Autonome service robots "Promobot", annonserte i begy...
Hva er en antropomorfe robot, og hvorfor er deres popularitet vokser?
Slik en robot kan være svært nyttig i hverdagen hvor Ofte har du hørt uttrykket "antropomorfe robot"? Jeg tror Ja, fordi i det siste har flere og flere prøver å gjøre akkurat antropomorfe. En av de nyeste eksemplene kan betraktes ...
Menneskelignende roboter blir virkelighet
Snart vil folk bli utvisket. det Synes fremtidige har endelig kommet. Så, team fra University of Bristol har opprettet en ny algoritme som vil gjøre roboter mye mer "human" enn hva de er nå. Nye oppnåelse av forskere, publisert i ...
#video | Roboter-partikler er ubrukelig alene, men laget er i stand til mye
de Fleste roboter utføre oppgaver alene, men forskere fra institusjoner i Massachusetts, Harvard, Columbia og Cornell innført den såkalte "robot partikkel som bare kan fungere i et team. Hver av de små roboter er en runde mekanism...
Roboten lærte å gange fra bunnen av i bare 5 minutter og utviklet individuelle gangart
den Unge giraffer og antiloper har en utrolig evne til å tilpasse seg for å gå etter et par minutter etter fødselen. Det gjør dem i stand til å umiddelbart tilpasse seg et fiendtlig miljø fullt av rovdyr og andre farer. Denne funk...
#video | Disse robotene kan legges inn i en organisme ved hjelp av en sprøyte
Ideen om mikroskopiske roboter, designet for å levere medisiner i dypet av levende organismer . Som regel, de er i stand til å arbeide selv i de mest ekstreme forholdene, og kan bli introdusert i kroppen, selv når du bruker en van...
Denne roboten er nesten umulig å skille fra levende insekter: se for deg selv
I 2014, den franske ingeniøren Edwin van Ruymbeke har opprettet en meget uvanlig robot Bionic Fugl, som er en fugl som flyr, realistisk flagrende vinger. Fem år senere, håndverker igjen erklært seg selv, og denne gangen presentere...
Kommentarer (0)
Denne artikkelen har ingen kommentar, bli den første!