Etikk simuleringer: vil virtuelle folk glade?

Hvis du noensinne har spilt rollespill, enten det er online eller gammeldags hage — du vet hvor lett det er å få knyttet til din avatar, som er å spille rollen som "Kosakkene-røverne". Du bokstavelig talt føle smerte når en karakter har et Troll, svi en drage eller dreper sjamanen. Den Amerikanske sosiologen (og ivrig gamer) William Sims Bainbridge gjort dette forholdet ytterligere ved å opprette virtuelle utsikt 17 avdøde familiemedlemmer. I et essay om temaet i online-avatarer 2013 det ser en tid da vi vil være i stand til å laste opp sine personlighet til et kunstig intelligent simulering av oss som kan fungere uavhengig av oss, og vil forbli, selv etter vår død.

Hva slags ansvar vi kan gi disse simulerte folk? Selv om vi er leery av voldelige dataspill, ingen alvorlig mener drapet på å undergrave den virtuelle angriper. Men ikke helt absurd å tenke seg at en av de simulerte mennesker finnes, og har en viss grad av autonomi og bevissthet. Mange filosofer mener at intelligens som vårt, kan ikke nødvendigvis være lagret i nettverket av nerveceller i hjernen vår, og kan finnes i ulike materiale systemer. Hvis de har rett, det er ingen grunn til at en tilstrekkelig kraftige datamaskiner kan ikke holde bevissthet i sine chips.

digital vil Drepe en flue?

I Dag, mange moralske filosofer har forsøkt å forstå den etiske å endre menneskelig befolkning og stille spørsmål som disse: hva er prisen på menneskeliv? Hva slags liv vi bør strebe etter å skape? Hvor mye verdi vi bør investere i menneskelig mangfold? Men når det kommer til etikk for behandling av simulert enhetene er ikke helt klart om vi skal stole på den samme logikk og intuisjon som vi bruker i vår verden av kjøtt og blod. Dypt nede, vi føler at det er galt å drepe en hund eller et fly. Men om deaktivere modell av fly hjerne — eller et menneske — mord? Når "livet" tar på seg nye digital form, vår egen erfaring kan ikke lenger være en pålitelig moralske ledsager.

Adrian Kent, en teoretisk fysiker fra Cambridge University, bestemte seg for å studere dette gapet i moralsk resonnering. Anta at vi har lært å etterligne menneskets bevissthet til en datamaskin billige og enkle, skriver han i en av sine artikler. Vi ønsker å gi denne virtuelle være en rik og nyttig medium for kommunikasjon — et liv verdt å leve. Kanskje vi kunne gjøre det med ekte mennesker ved å skanne hjernen, i minste detalj, og gjenskape dem på datamaskinen. Du kan forestille deg hvor denne teknologien "sparer" folk fra dødelige sykdommer, og noen transhumanists ser dette som en måte å udødelig bevissthet.

Selvfølgelig, dette kan alle være en ønskedrøm — men la oss anta noe annet. La oss nå få et sett av utilitaristisk moralske prinsipper, representert ved Jeremy ganske enkelt bentham i slutten av det 18. århundre, og senere videreutviklet av John Stuart Mill. Tatt i betraktning alle forhold, sa ganske enkelt bentham, vi bør bestrebe seg på å bære maksimal lykke (eller "verktøy") størst mulig antall mennesker. Eller, i ord mill, "handlinger som er begrunnet i forhold til hvordan de bringer lykke, og ikke rettferdiggjøres hvis de fører til en mangel på lykke."

Prinsippene for god oppførsel har nok av kritikere. For eksempel, hvordan kan vi måle eller sammenligne former for lykke — veiing av verdien av kjærlighet til bestemor, for eksempel, på samme vekter med beundring virtuos konsert pianist? "Selv om du ønsker å ta utilitarisme seriøst, du vet ikke hvilken kvalitet du investere i beregningene gjøre saken, sier Ken. Men, de fleste trossystemer i dag som standard erkjenne at moralsk kompass som peker i retning av større lykke ved langt mer å foretrekke enn en som ser ut fra ham.

I Henhold til scenario av Kent, basert på utilitaristisk motiver, kan vise at vi er nødt til å gå videre og å multiplisere våre simulert, eller simulert vesener — la oss kalle dem Sims, uten grenser. I den virkelige verden er ukontrollert fødsel har åpenbare ulemper. Folk vil lide, følelsesmessig og økonomisk, å ha en stor familie, overbefolkning er allerede å sette press på globale ressurser, og så videre. Men i den virtuelle verden, slike grenser ikke kan være. Du kan opprette en utopi med nesten ingen begrensede ressurser. Hvorfor det, i så fall kan du ikke opprette så mange verdener som mulig og fylle dem med jublende Sims?

I Vår intuisjon forteller oss svaret: men hvorfor? Kanskje bevisst SIM rett og slett ikke vil ha den samme egenverdi som et menneske av kjøtt og blod? Denne ideen er uttrykt av Michael Madere, en spesialist i filosofi i sinnet og etikk av virtuell virkelighet fra Universitetet i Tulane i New Orleans, og mener at det bør bli behandlet seriøst.

"I et menneskes liv, det er et flott element som gjør oss be klassiske filosofiske spørsmål som: hvorfor er det noe heller enn ingenting? Er det mening i livet? Må vi leve med ære?", han sier. "Simulert sinn kunne stille spørsmål dette, men fra vårt synspunkt, vil de være meningsløs, fordi vi bestemte oss for å finne dem opp".

Noen filosofer mener at vi selv kan være en slik simulert skapninger. Dette er muligheten vi rett og slett ikke kan utelukke, men likeveltenk på disse spørsmålene meningsfylt. Så ville man også anta at Simmene har rett til å stille spørsmål.

Kent igjen stilte spørsmålet: hvordan vil det være riktig — for å opprette en befolkning på identiske mennesker, eller en helt annen? Åpenbart ville være mer effektivt å opprette identiske vesener nok informasjon om å opprette N slik. Men våre instinkter forteller oss at mangfold har betydning og verdi. Og grunnen til jeg lurer på, hvis det er ingen grunn til å tro at N forskjellige individer vil være lykkeligere enn N er identiske.

Kent ' s Tilnærming er at ulike liv er å foretrekke fremfor flere kopier av det samme. "Jeg kan ikke bli kvitt tanker at universet med en milliard uavhengige identisk emuleringer av Alice ville være mindre interessant og bedre enn universet med en milliard forskjellige individer," sier han. Han kaller det konseptet av mindreverdighet replikering.

Hvis vi ser på den plassen bebodd av milliarder Alice, la oss ikke snakke om ett liv, multipliseres mange ganger, eller vi snakker om ett liv, er vanlig på mange verdener. Det ville følge at mange av Alice i identiske miljø vil ha verdier er ikke mer enn en. Dette scenariet er han kaller det nytteløse av replikering. "Jeg er tilbøyelig til denne oppfatningen, sier Kent, gjenkjenne, men som ikke kan finne en overbevisende argument i hans forsvar.

En Tanke eksperiment Kent innslag på noen gamle gåter av moralsk filosofi som aldri ble løst. Den engelske filosofen Derek Om som døde i fjor, så dem i sitt monumentale verk på personlighet og "jeg", "Fornuft og identitet" (1984). De tenkte seg om slike spørsmål, for eksempel hvor mange personer som bør være Generelt, og det vil alltid være moralsk bedre å legge livet verdt å leve i kjas og mas av verden, når vi får muligheten.

Selv om du tar et utilitaristisk synspunkt, er problemet med å finne den største lykke for det størst antall: to kriterier skape tvetydighet. For eksempel, tenk deg at vi har kontroll over hvor mange mennesker lever i en verden med begrensede ressurser. Man skulle tro at det må være noen optimal antall personer som (i prinsippet) vil gjøre det beste bruk av ressurser for å sikre lykke og velstand for alle. Men det er en utopi at det ville være rom for en annen person? Ville ikke det være akseptabelt å redusere den glede av alt for en liten, for å sikre en annen lykkelig liv?

Problemet er at denne prosessen har ingen ende. Veksten av antall ekstra glede av nye liv kan oppveie kostnadene for de som allerede er i live. Til syvende og sist, sier Om, kommer du til den "avskyelige konklusjon": for det scenariet som det beste resultatet er en oppblåst befolkningen av folk som er på desperat ulykkelig, men det er bedre enn om det var noe liv i det hele tatt. Sammen sine knappe rester av lykke er større enn summen av et lite antall genuint glade mennesker. "Det er vanskelig for meg å akseptere at konklusjonen", skrev Om, men kan vi rettferdiggjøre en slik tilnærming? Kent vet ikke. "Jeg vet ikke, kan det være noen informert beslutning avskyelige konklusjonen," sa han.

Ved roten av dette problemet er at det som Gjelder er kalt "identiske" - problemet: hvordan kan vi tenke rasjonelt om spørsmål av enkeltpersoner, hvis deres eksistens avhenger av de valgene vi gjør (som å finne en plass til en "annen")? Veie fordeler og ulemper som kan påvirke en person, avhengig av våre beslutninger, i prinsippet, ikke er så vanskelig. Men hvis du tar i betraktning muligheten for at denne karakter kan aldri eksistere, er vi ikke lenger vet hvordan å telle. I forhold til null eller ikke-eksistensen av alt vil vinne, slik at du kan moralsk rettferdiggjøre selv de verste scenarier eksistens.

I dette spillet i en utilitaristisk befolkningen det er en annen veldig merkelig situasjon. Hva hvis det var folk med en så høy etterspørsel etter lykke, som ville kreve fra andre mer enn de har råd til å gi? Amerikanske filosofen Robert Rozik kalt etableringen av en "utility monster" og kritisert det i sin bok "Anarki, stat og utopi" (1974). I henhold til Nozick, dette bildet "vil kreve at alle ofrene i favør av monster til å øke det samlede verktøy". Mesteparten av boken Om var et forsøk — ikke slutten for å flykte fra den avskyelige konklusjon fra et utilitaristisk monster.

Nå la oss komme tilbake til virtuelle verdener Kent, full Sims, og hans prinsipp defekt replikering — når en rekke forskjellige liv er verdt mer enn i samme nummer er identiske. Kanskje dette vil tillate oss å unngå den avskyelige konklusjon Om. Til tross for hva Leo Tolstoj sa om ulikhet fattige familier i begynnelsen av "Anna Karenina" (1878), ser det ut til at et stort antall av ulykkelig liv, er nesten det samme i sine dystre tristhet. Derfor, de kan ikke velge og dråpe for dråpe for å øke den totale lykke.

Men akkurat som mindreverdighet replikering tolererer utilitaristisk monster — per definisjon, det må være unikt, og derfor mer "verdt" i sammenligning med den uunngåelige likheten av livet der det fôres. Denne beslutningen vi er ikke fornøyd. "Det ville være fint om folk liksom trodde mer om disse problemene," innrømmer Kent. "Jeg er litt forvirret av dem."

For det Amerikanske libertarian økonom RobinHanson — Professor i Økonomi ved George Mason University i Virginia disse refleksjoner er ikke så mye mental eksperimenter, mange spådommer om fremtiden. Hans bok "the Age of Em", er et samfunn hvor alle mennesker er å laste ned hans bevissthet inn i en datamaskin for å leve livet i form av "emulering" (ikke Sims, men amov). "Milliarder nedlastinger kunne leve og arbeide i en bygning, og plass nok til alle," skriver han.

Hanson undersøkt i detalj, som ville fungere for en slik økonomi. Amy kan være hvilken som helst størrelse, og noen av dem er veldig små — og tid for dem å gå på en annen måte i sammenligning med folk. Vær forsiktig observasjon og en liten lønn, men Amy kan bli kvitt denne lidelsen ved å velge et liv uten arbeid. (Hanson tror at vi kan leve i en slik verden).

Dette skriptet gir mulighet for duplisering i seg selv, fordi sinnet har allerede blitt overført til datamaskinen, slik kopiering er ganske enkel. Hanson sa at problemet med identitet i dette tilfellet er uklart: den duplikat er den "samme mann" opprinnelig, men gradvis sin identitet på oddsen når de begynner å leve separat.

Hanson tilsier at duplisering av mennesker er ikke bare mulig, men ønskelig. I de kommende alder av emov personer med særlig verdifulle mentale evner vil bli "lagt inn" flere ganger. Og Generelt, folk vil ønsker å lage flere kopier av seg selv i alle fall som en form for forsikring. "Kan de foretrekker redundans i deres gjennomføring, for å sikre at kan overleve en uventet katastrofe," sa Hanson.

Men han trodde ikke at de ville foretrekker scenario av Kent om identiske liv. Amy "vil ikke gi mye verdi som lever det samme livet i ulike tider og ulike steder. De vil bidra verdi i flere kopier, fordi disse kopiene vil være i stand til å samarbeide eller kommunisere med andre. Men denne type arbeid og relasjoner vil kreve at hvert eksemplar har vært uformelt uavhengige, og deres historier er flettet sammen, avhengig av oppgave eller som samarbeidspartnere."

I alle fall, eman er nødt til å håndtere moralske problemer til å overdrive at vi ikke. "Jeg tror ikke at moral, som dukket opp i mennesker er tilstrekkelig Generell eller robust til å gi tillit til svar på slike situasjoner, som er så langt fra "opplevelse" av våre forfedre, sier Hanson. "Jeg spår at Amy vil ha mange forskjellige motstridende meninger om slike ting."

Amy Sims og vår virtuelle fremtiden

Nå er alt dette høres kanskje veldig rart ut, som den apokryfe middelalderske diskusjoner av engler danser på tærne. Hvis vi noen gang opprette et virtuelt liv, som vil være lik de ekte i det hele tatt? "Jeg tror ikke noen vil være i stand til å trygt si det er mulig eller ikke, sier Kent, delvis fordi "vi har ingen gode vitenskapelige forståelsen av bevissthet."

Selv så, teknologien går fremover, og disse spørsmålene er fortsatt åpen. Svenske filosofen Nick Bostrom, av the Institute for the future of man, hevdet at regnekraft tilgjengelig "Posthuman" sivilisasjon ville gjøre det enkelt å simulere skapninger som lever i verden, og føles så ekte som vi er din. (Bostrom mener også at vi kunne leve i en simulering). Men spørsmål om hvordan vi kan forme befolkningen i slike verdener representerer "en ekte dilemma for programmerere og forskere, og secondlow fremtiden, selv om den ikke er så fjernt, sier Kent.

Skriptet Kent kan allerede være konsekvensene for den virkelige verden. Argumenter om verktøyet maksimering og problemet med identiske fremkomme i diskusjoner om kampanjen, og forebygging av menneskelig tenkning. Når bør avstå oppfatning i saken av risiko, for eksempel utvikling av misdannelser hos barnet? Ingen av de nye metodene ikke garantere fullstendig sikkerhet og er aldri garantert, men IVF aldri ville ha gjort hvis det var obligatorisk. Det er forventet at denne teknikken må opprettholde en viss terskel for risiko. Men en utilitaristisk tilnærming utfordrer denne ideen.

Hva om en ny helper metode, reproduksjon ville ha en moderat risiko for små fødselsskader — for eksempel, fødselsmerker? (Dette er den virkelige argumentet: historien om Nathaniel Hawthorne 1843 forteller historien om alkymisten som har forsøkt, med fatale konsekvenser, fjern etiketten med sin kone, som sitert eksempel på bioethics Council i Usa i 2002). Det er vanskelig å si at de menneskene som er merket i dette området, vil være verre enn andre, og bør derfor ikke tas teknikk i betraktning. Men der hvor å trekke linjen? Når feilen ved fødselen bedre ikke å bringe den til liv.

Noen har nevnt dette dilemmaet, sett i forsvaret av menneskelig kloning. Vil det være farer, slik som sosial stigmatisering eller forvrengt foreldrenes motiver og forventninger, for å oppveie fordelene av å gi liv. Hvem er vi til å velge for klonet person? Hvem er vi hvis vi gjør dette valget før folk Generelt vil eksistere?

Slike argumenter synes å kreve guddommelige løsninger. Men feministyczne observatør tenker kanskje at vi var offer for en av de versjoner av fantasy Frankenstein. Med andre ord, er ikke det en håndfull menn drømmer om en idé å endelig begynne å dikte folk, når kvinner gjorde det for hundre år? En følelse av nyhet, noe som fører til alle disse konfliktene er PatriarkalskeRAID.

Selv så, prospect av virtuell bevissthet øker veldig frisk og fascinerende etiske problemstillinger — som i den oppfatning av Kent, tvinger oss til å utfordre den intuitive verdi som vi plasserer på liv og demografi. Det er svært vanskelig å se for seg et sterkt argument i favør av det faktum at en rekke forskjellige liv er moralsk bedre enn samme tall er identiske. Hvorfor tror vi det? Hvordan kan vi bli kvitt fordommer?

En kan si at det som oppfattes homogenitet i menneskelige populasjoner svekker evnen til empati og etisk resonnement. "Ukjent" publikum, noe som er i motsetning til enkelte — vanlig stempel, som fremkaller en følelse av heltemot. Men det er ikke nødvendigvis riktig.

Kanskje vi har en evolusjonær avsky til de samme personene, spesielt når du tenker på at det genetiske mangfoldet i befolkningen sikrer dens overlevelse? Bare husk filmer om eneggede tvillinger eller kloner er ikke alltid ser fint ut. Ser ganske skumle. I 1919 ble denne følelsen Sigmund Freud hadde koblet med ideen om en ond dobbeltrom (en Dobbeltgjenger). Og hvis i tilfelle av eneggede tvillinger er det fortsatt mulig å se hundrevis av "identiske" tegn vil se forferdelig ut.

Det er Ikke som vi er møtt med hærer av duplikater i nær fremtid, i ekte eller virtuelle verden. Men verdien av tanke-eksperimenter er at de gir deg en ny måte å forstå problemene i denne verden. Forestille etikk våre relasjoner til the Sims vi avsløre dårlige eller ikke-eksisterende logikk, som vi bruker instinktivt, veier den moralske verdien av vårt eget liv.

Og nå digitale vil drepe en flue? Fortell oss i vår