Etyka symulacji: czy wirtualne ludzie są szczęśliwi?

Jeśli kiedykolwiek grałeś w rpg — czy to online lub staroświecki dwór — wiesz, jak łatwo jest łatwo przyzwyczaić się do swojego awatara, czyli wcielić się w rolę "kozak-bandyty". Dosłownie czujesz ból, gdy postać bije troll, opiekanie smok lub zabija szaman. Amerykański socjolog (i zapalonym graczem) William Sims Bainbridge, założyłem te relacje jeszcze dalej, tworząc wirtualne reprezentacje 17 zmarłych członków rodziny. W eseju na temat internetowych awatarów 2013 roku przewiduje się czas, kiedy będziemy mogli pobrać swoją tożsamość w sztuczną rozsądną symulację nas samych, która będzie w stanie działać niezależnie od nas i nawet pozostanie po naszej śmierci.

Jakiego rodzaju odpowiedzialność możemy nałożyć na tych symulowanych ludzi? Choć z podejrzliwością odnoszą się do brutalnych gier komputerowych, nikt poważnie nie mówi, że morderstwo zagrożenia wirtualnego napastnika. Jednak już nie absurdalne wyobrażać sobie, że pewnego dnia modelowane ludzie będą istnieć, a także mieć w pewnym stopniu autonomii i świadomością. Wielu filozofów uważa, że umysł jest jak nasz nie musi być przechowywany w sieci neuronów naszego mózgu, a mógłby istnieć w różnego rodzaju materialnych operacyjnych. Jeśli mają rację, to nie ma żadnych powodów, aby sądzić, dlaczego tyle potężne komputery nie mogłyby przechowywać świadomość w swoich żetonów.

Zabijesz cyfrową muchę?

Dzisiaj wiele moralne filozofowie próbują zrozumieć etykę zmiany w populacji ludzkiej i zadają pytania w rodzaju tych: jaka jest cena ludzkiego życia? Jakiego rodzaju życie musimy starać się tworzyć? Ile wartości musimy inwestować w ludzką różnorodność? Ale jeśli chodzi o etyce postępowania z моделируемыми bytami, nie jest do końca jasne, czy powinniśmy opierać się na tych samych logiki i intuicji, które stosujemy w naszym świecie z krwi i kości. W głębi duszy czujemy złe zabić psa lub nawet muchy. Ale czy wyłączenie modelu mózgu muchy — lub człowieka — morderstwo? Kiedy "życie" przyjmuje nowe cyfrowe formy, nasze własne doświadczenie nie może być wiarygodnym moralnym towarzyszem.

Adrian Kent, fizyk-teoretyk z uniwersytetu w Cambridge, zdecydował się studiować tę лакуну w rozważaniach moralnych. Załóżmy, że nauczyli się naśladować ludzką świadomość na komputerze jest tanie i proste, pisze w jednym z artykułów. Chcielibyśmy dać tego wirtualnego istocie bogatą i przydatne środowisko do komunikacji — życie, które warto przeżyć. Moglibyśmy robić to z prawdziwymi ludźmi, skanując ich mózg w najdrobniejszych szczegółach i odtwarzania ich na komputerze. Można sobie wyobrazić, jak taka technologia "ratuje" ludzi od śmiertelnej choroby; niektóre трансгуманисты widzą w tym sposób na nieśmiertelne świadomości.

Oczywiście, wszystko to może być marzeniem — ale niech powiedzmy inaczej. Teraz chodź zestaw użytkowych zasad moralnych, przedstawionych Jeremy Бентамом w końcu 18 wieku i później dystyngowanych Johnem Stuartem Миллом. Biorąc pod uwagę wszystkie okoliczności, mówił Bentham, musimy starać się nieść maksymalna szczęście (lub "użyteczność") jak największej liczby osób. Lub, mówiąc słowami Milla, "działania są uzasadnione proporcjonalnie do tego, jak niosą szczęście, i nie są uzasadnione, jeśli prowadzą one do braku szczęścia".

Zasad dobrego zachowania jest wiele krytyków. Na przykład, jak możemy mierzyć lub porównać rodzaje szczęścia — ważenie wartość miłości babci, na przykład, na jednej wadze z podziwem zatwardziałego koncertową pianistą? "Nawet jeśli chcesz brać rodzice nadal żyją poważnie, nie wiesz, jakie cechy, które inwestuje w obliczenia, naprawdę mają znaczenia", mówi Ken. Jednak większość systemów wierzeń dziś domyślnie uznają, że moralny kompas, wskazujący w kierunku większego szczęścia, zdecydowanie bardziej korzystne, niż ten, który patrzy od niego.

Według scenariusza Kent, jeśli pochodzą z użytkowym motywacji, może pojawić się przekonanie,że musimy iść do przodu i mnożyć naszych symulowanych, lub симулированных, istot — nazwijmy je simów — bez żadnych ograniczeń. W realnym świecie takie niekontrolowane prokreacji ma oczywiste wady. Ludzie będą cierpieć, emocjonalnie i ekonomicznie, mając dużą rodzinę; przeludnienie już wywiera presję na zasoby globalne, i tak dalej. Ale w wirtualnym świecie, takich limitów może i nie być. Można stworzyć utopii z prawie nie ograniczonymi zasobami. Dlaczego w takim razie nie można utworzyć tyle światów, ile może, i wypełnić je radosnymi simów?

Nasza intuicja podpowiada odpowiedź: ale po co? Może być świadomy sim po prostu nie będzie mieć taki sam wewnętrznej wartości, jak człowiek z krwi i kości? Tę myśl wyraża Michael Медери, specjalista w zakresie filozofii świadomości i etyki wirtualnej rzeczywistości z Uniwersytetu Тулейн w Nowym Orleanie, i uważa, że do niej powinny być traktowane poważnie.

"W życiu człowieka jest mistyczny element, który zmusza nas do zadawania klasyczne filozoficzne pytania typu: dlaczego istnieje coś, a nie nic? Czy jest sens w życiu? Czy musimy żyć w honor?" mówi on. "Симулированный umysł mógłby zadać takie pytania, ale z naszego punktu widzenia będą bezsensowne, bo to postanowiliśmy go wymyślić".

Niektórzy filozofowie uważają, że i my sami możemy być podobni do симулируемыми istotami. Taką możliwość po prostu nie możemy wykluczyć, ale jednakuważamy, że te pytania są sensowne. Więc można by przypuszczać, że simy mają prawo zadawać pytania.

Kent ponownie zadaje pytanie: jak będzie lepiej — tworzenie populacji identycznych istot lub zupełnie różne? Oczywiście, bardziej efektywnie byłoby tworzenie identycznych istot — wystarczająco dużo informacji o jednym, aby utworzyć N takowych. Ale nasze instynkty podpowiadają nam, że w różnorodności jest sens i wartość. I dlaczego, zastanawiam się, czy nie ma powodów, aby sądzić, że N różnych osobników będą szczęśliwsi, niż N identycznych.

Podejście Kent polega na tym, że różne życia, najlepiej kilka kopii jednego. "Nie mogę pozbyć się myśli, że wszechświat jest z miliard niezależnych, identycznych emulacje Alicji będzie mniej interesujące i wysokiej jakości, niż wszechświat z miliardem różnych osób", mówi. Nazywa to pojęcie неполноценностью replikacji.

Jeśli weźmiemy pod uwagę przestrzeń, miejscowość miliardów Alice, czy warto w ogóle mówić o jednym życiu, размноженной wiele razy, czy mówimy o jednym życiu, rozpowszechnioną w wielu światów. Z tego może wynikać, że wiele Alice w identycznej środowisku będą mieć wartości nie więcej niż jedna. Ten skrypt nazywa бесполезностью replikacji. "Skłaniam się ku tej opinii", mówi Kent, uznając jednak, że nie może znaleźć bezsporny argument w jego ochronę.

Eksperyment myślowy Kent dotyczy kilku starych tajemnic filozofii moralnej, które nigdy nie zostały rozwiązane. Angielski filozof Derek Парфит, który zmarł w zeszłym roku, uważał je w swojej monumentalnej pracy nad osobowością i "ja", "Przyczyny i osobowości" (1984). Парфит zastanawiał nad takimi sprawami, na przykład, ile osób powinno być w ogóle, i czy zawsze będzie moralnie lepiej dodawać życie, które warto przeżyć, w zgiełku świata, kiedy mamy okazję.

Nawet jeśli przyjąć utylitarne punkt widzenia, będzie problem wyszukiwania największego szczęścia dla największej liczby: podwójne kryteria tworzą dwuznaczność. Na przykład, wyobraź sobie, że mamy kontrolę nad tym, ile osób żyje w świecie z końcowymi zasobami. Można by pomyśleć, że musi być jakiś optymalną liczbę osób, które (w zasadzie) pozwoli wykorzystać zasoby w najlepszy sposób, aby zapewnić szczęście i dobrobyt dla wszystkich. Ale czy w takiej utopii nie znalazło by się miejsce dla jeszcze jednej osoby? Czy nie byłoby to do przyjęcia zmniejszyć szczęście wszystkich na kropelkę, aby zapewnić jeszcze jedną szczęśliwe życie?

Problem w tym, że taki proces nie ma końca. W miarę wzrostu cyfr dodatkowe szczęście nowych istnień może przewyższać koszty tych, którzy już żyje. W końcu, mówi Парфит, przyjdź do "ohydnego wniosku": do scenariusza, w którym najlepszym wynikiem będzie napęczniałe populacja ludzi, którzy beznadziejnie nieszczęśliwi, ale w którym lepiej, niż gdyby nie było życia w ogóle. Łącznie ich skromne resztki szczęścia stanowią więcej niż suma niewielkiej liczby szczerze szczęśliwych obywateli. "Trudno mi przyjąć ten wniosek", pisał Парфит, ale czy możemy uzasadnić takie podejście? Kent nie wie. "Nie wiem, czy może być jakiś świadomą decyzję w cierpkim wnioskowanie", mówi.

W katalogu głównym tego wydania jest to, że Парфит nazwał "problemem неидентичности": jak możemy myśleć racjonalnie o sprawach dotyczących jednostek, jeśli samo ich istnienie zależy od wyboru, który robimy (jak znaleźć miejsce dla jeszcze jednego")? Zważyć plusy i minusy, które mogą mieć wpływ na oddzielnej osoby, w zależności od podjętych przez nas decyzji, w zasadzie, nie jest takie trudne. Ale jeśli brać pod uwagę możliwość, że ta postać mogła nigdy nie istnieć, my już nie wiemy, jak się w tym połapać. W porównaniu z zerem lub небытием że wszystko będzie wygraną, więc można moralnie usprawiedliwić nawet najgorsze scenariusze istnienia.

W tej grze w utylitarne populacji jest jeszcze jeden bardzo dziwny scenariusz. Co by było, gdyby istnieli ludzie z tak dużym zapotrzebowaniu na szczęście, że wymagali od innych więcej, niż mogą sobie pozwolić oddać? Amerykański filozof Robert Розик nazwał to tworzenie "утилитарным potworem" i skrytykował go w swojej książce "Anarchia, państwo i utopia" (1974). Według Нозика, ten obraz "wymaga od nas wszystkich ofiar na rzecz potwora, aby zwiększyć ogólną przydatność". Duża część książki Парфита była próbą — bezowocna w końcu — uciec jak od niego wyjścia, jak i utylitarnym potwora.

Teraz wróćmy do wirtualnych światów Kent, pełnym simów, i jego zasadzie kompletna replikacji — gdy pewna liczba różnych życia kosztuje więcej, niż taka sama liczba identycznych. Może to pozwoli nam uniknąć nieprzyjemnych wyjścia Парфита. Mimo, że Lew Tołstoj powiedział o nierówności biednych rodzin na początku "Anny Каренины" (1878), wydaje się, że ogromna ilość wypadków życia będzie prawie tak samo w ich ponury smutek. W konsekwencji, nie będzie można ich konfigurowanie pełnowartościowego i kroplami zwiększyć ogólne szczęście.

Ale tak samo niższość replikacji przyzwolenie dla утилитарному potwora — z definicji, musi być unikalny, a więc bardziej "stojących", w porównaniu z nieuniknionym podobieństwem życia, które go karmią. Takie rozwiązanie również nie spełnia. "Dobrze by było, gdyby ludzie jak coś więcej myśleli o tych sprawach", przyznaje Kent. "Ja w pewnym niedowierzaniem od nich".

Dla amerykańskiego либертарианского ekonomisty RobinaHansona — profesor ekonomii na Uniwersytecie George ' a Masona w Virginia — te rozważania są nie tyle psychicznie eksperymentami, ile przepowiedniami przyszłości. Jego książka "Epoka Em" jest społeczeństwo, w którym wszyscy ludzie ładują swoją świadomość w komputerze, aby przeżyć życie w postaci "emulacje" (nie simów, a эмов). "Miliardy takich pobrań mogli żyć i pracować w jednym wieżowcu, i miejsca wystarczy dla wszystkich", pisze.

Hanson szczegółowo zbadał, jak mogłaby działać taka gospodarka. Эмы mogą być dowolnej wielkości, niektóre z nich będą bardzo małe — i czas dla nich może iść inaczej w porównaniu z ludźmi. Będzie ściśle monitorowane i mała pensja, ale эмы mogą pozbyć się tych cierpień, wybierając życie bez pracy. (Hanson uważa, że możemy żyć w takim świecie).

Skrypt Ten dopuszcza możliwość powielania samego siebie, ponieważ umysł został już przeniesiony na komputer, więc tworzenie kopii będzie dość proste. Hanson mówi, że problem tożsamości w takim przypadku zamazany: duplikaty — to "jeden i ten sam człowiek" na początku, ale stopniowo ich tożsamość rozbieżne, gdy zaczynają żyć oddzielnie.

Hanson zakłada, że powielanie ludzi będzie nie tylko możliwe, ale i pożądane. W nadchodzący wiek эмов ludzie ze szczególnie cennymi zdolnościami umysłowymi będą "ładować się" wiele razy. I w ogóle, ludzie będą chcieli zrobić kilka kopii siebie w każdym razie jako jednej z form ubezpieczenia. "Oni mogą zdecydować się na nadmiarowość w własnej realizacji, aby upewnić się, że będą w stanie przetrwać niespodziewane katastrofy" - mówi Hanson.

Ale on nie myśli, że oni wolą scenariusz Kent o identycznych życiach. Эмы "nie będą nadawać szczególnej wartości pobytu w jednej i tej samej życia w różnym czasie i różnych miejscach. Będą inwestować wartość w wiele kopii, bo te kopie będą mogli pracować lub komunikować się z innymi. Ale taka praca i relacje będą wymagać, aby każda kopia była przyczynowo niezależna, a ich historie splatały się w zależności od zadań lub jak u partnerów".

W każdym razie, эмам trzeba będzie walczyć z moralnymi wyzwaniami, do przecenienia które na razie nie jesteśmy jeszcze w stanie. "Nie sądzę, że moralność, która pojawiła się u ludzi, jest na tyle ogólnym lub wiarygodne, aby dać pewne odpowiedzi na podobne sytuacje, które są tak daleko od "doświadczenia" naszych przodków" - mówi Hanson. "Prognozuję, że эмы będą mieć wiele różnych sprzecznych opinii dotyczących takich rzeczy".

Эмы, sims i nasze wirtualne przyszłość

Teraz to wszystko może brzmieć bardzo dziwnie, jakby апокрифические średniowieczne rozmowy na temat aniołów tańczących na jego palcach do naśladowania. Czy uda nam się kiedykolwiek stworzyć wirtualne życie, która będzie podobna do prawdziwej ogóle? "Nie sądzę, że ktoś będzie w stanie powiedzieć, czy jest to możliwe, nie", mówi Kent, częściowo dlatego, że "u nas nie ma dobrego naukowego pojęcia o świadomości".

Nawet jeśli tak, technologii poruszają się do przodu, i te pytania pozostają otwarte. Szwedzki filozof Nick Бостром z Instytutu przyszłości człowieka, twierdził, że moc obliczeniowa dostępna "постчеловеческой" cywilizacji, pozwoli z łatwością udawać stworzeń, które żyją w świecie i odczuwają go tak samo rzeczywista, jak i my swój. (Бостром uważa również, że możemy żyć w takiej symulacji). Ale pytania o to, jak nam kształtować populację tych światów, są "prawdziwy dylemat dla programistów, naukowców i законоделов przyszłości, choć nie tak odległej", mówi Kent.

Skrypt Kent już mogą być konsekwencje dla świata rzeczywistego. Argumenty o maksymalizacji użyteczności i problem неидентичности pojawiają się w dyskusjach na temat promocji i zapobiegania ludzkiego poczęcia. Kiedy należy porzucić poczęcia w przypadku ryzyka, np. wystąpienia nieprawidłowości u dziecka? Żaden z nowych metod nie gwarantuje pełne bezpieczeństwo i nigdy nie gwarantował, ale EKO nigdy nie stały się zrobić, gdyby to było konieczne. Zakłada się, że taka technika powinna zachować pewien poziom ryzyka. Ale utylitarne podejście kwestionuje tę myśl.

A co, gdyby nowa metoda wsparcia hodowli miał umiarkowane ryzyko pojawienia się małych wad w chwili urodzenia — na przykład, znamion? (To jest prawdziwy argument: opowieść Натаниэля Готорна 1843 roku opowiada o alchemist, który próbował, z katastrofalnymi skutkami, usunąć etykietę ze swojej żony, przytoczył przykład rada bioetyki USA w 2002 roku). Trudno powiedzieć, że ludzie, oznaczone takim miejscu, będą gorsze od innych i dlatego nie powinny być podejmowane metodą pod uwagę. Ale gdzie wyznaczyć granicę? Gdy wada po urodzeniu lepiej w ogóle nie wcielać w życie?

Niektóre wspominaliśmy ten dylemat, występując w obronie klonowania człowieka. Czy zagrożenia, takie jak społeczne piętno lub zniekształcone dominujące motywy i oczekiwania, przeważać korzyści świadczenia życia. Kim jesteśmy, aby dokonać wyboru za klona człowieka? Kim będziemy, jeśli będziemy robić ten wybór do tego, jak człowiek w ogóle będzie istnieć?

Takie rozumowanie wydaje, wymagają od nas богоподобных rozwiązań. Ale феминистичный obserwator mógłby pomyśleć, że staliśmy się ofiarą jednej z wersji fantasy Frankensteinie. Innymi słowy, czy to nie jest garstka mężczyzn marzy pomysł w końcu zacząć produkować ludzi, kiedy kobiety zajmowały się tym od wieków? Poczucie nowości, które prowadzi do pojawienia się tych wszystkich sporów, ma patriarchalnanalot.

Nawet jeśli tak, perspektywa wirtualnego świadomości podnosi bardzo świeże i fascynujące kwestie etyczne — które, zdaniem Kent, zmuszają nas wyzwanie intuicyjną wartość, którą umieszczamy w życie i demografii. Bardzo trudno dostrzec silny argument na rzecz tego, co pewną ilość różnych wcieleń będzie moralnie lepiej takiej samej liczby takich samych. Dlaczego tak sądzimy? Jak nam pozbyć się uprzedzeń?

Można powiedzieć, że widzianej jednorodność w populacjach ludzkich niszczy zdolność do empatii i etyczne argumenty. "Bezpłciowy" tłum, której przeciwstawia się człowiek — zwykły znaczek, który powoduje poczucie heroizmu. Ale to niekoniecznie poprawnie.

Może być, mamy ewolucyjny niechęć do tej samej индивидам, zwłaszcza jeśli wziąć pod uwagę, że różnorodność genetyczna populacji zapewnia jej przetrwanie? Po prostu przypomnij sobie filmy o identycznych bliźniaków lub klonów — to nie zawsze ładnie wygląda. Wygląda nawet złowieszczo. W 1919 roku to uczucie Zygmunt Freud kojarzył z pomysłem złego sobowtóra (доппельгангера). I jeśli w przypadku z identycznymi bliźniakami to jeszcze można zrozumieć, setka "identycznych" postaci będzie wyglądać okropnie.

Nie wygląda na to, że będziemy mieli do czynienia z armiami duplikatów w najbliższym czasie rzeczywistym lub wirtualnym świecie. Ale wartość myślowych eksperymentów polega na tym, że dają ci nowy sposób konceptualizacji pytania tego świata. Wyobrażając sobie etykę naszych stosunków do mam, ujawniamy шаткую lub nie istniejącej logiki, którą wykorzystujemy instynktownie, ważąc moralną wartość naszego życia.

A teraz zabijesz cyfrową muchę? Powiedz w naszej