Éthique des simulations: si les gens virtuels heureux?

Si vous avez déjà joué à un jeu de rôle — que ce soit en ligne ou à l'ancienne cour — savez-vous comment facilement attaché à son avatar, c'est rentrer dans le rôle de «cosaques-brigand». Littéralement, vous sentez la douleur, quand le personnage voit son troll, lier tue un dragon ou un chaman. Américain, sociologue (et un joueur passionné) William Sims Бейнбридж a établi ces relations encore plus loin, en créant des représentations virtuelles 17 défunts membres de la famille. Dans un essai sur le sujet en ligne-les avatars de l'année 2013, il anticipe le moment où nous serons en mesure de télécharger leur identité dans l'artificiel raisonnable de simulation de nous-mêmes qui est en mesure d'agir indépendamment de nous et même pas après notre mort.

Quel genre de responsabilité, nous pouvons confier à de ces simulées gens? Même si nous avons des soupçons traitons cruel de jeux d'ordinateur, personne n'a sérieusement estime le meurtre de la subversion virtuel de l'attaquant. Mais déjà il n'est pas absurde d'imaginer que, une fois modélisé les gens vont exister, et d'apprécier dans une certaine mesure, de l'autonomie et à la conscience. De nombreux philosophes disent que l'esprit comme la nôtre ne doit pas nécessairement être stocké dans le réseau de neurones de notre cerveau puisse exister dans toutes sortes de systèmes matériels. S'ils ont raison, il n'y a aucune raison de croire, pourquoi sont assez puissants ordinateurs ne pourraient conserver la conscience dans leurs puces.

Tuez le numérique mouche?

Aujourd'Hui, de nombreux moraux des philosophes tentent de comprendre l'éthique de changement de la population humaine et de se poser la question comme celle-ci: quel est le prix de la vie humaine? Quel genre de vie nous devons nous efforcer de former? Combien de valeur, nous devons investir dans la diversité? Mais quand il s'agit de l'éthique de la manipulation simulés entités, ce n'est pas clair, faut-il s'appuyer sur la même logique et l'intuition, que nous utilisons dans notre monde de chair et de sang. Au fond, nous nous sentons mauvais tuer le chien ou même une mouche. Mais si la désactivation d'un modèle de cerveau de la mouche ou de l'homme — le meurtre? Quand «la vie» prend de nouvelles formes numériques de notre propre expérience, qui ne peut plus agir fiable moral compagnon.

Adrian Kent, physicien de l'université de Cambridge, a décidé d'étudier cette lacune dans les raisonnements moraux. Supposons, par exemple, nous avons appris à émuler la conscience humaine sur un ordinateur bon marché et juste, écrit-il dans un article. Nous aimerions donner à ce virtuel fond riche et utile de l'environnement pour la communication — vie, que vaudrait la peine de la vivre. Peut-être que nous pourrions faire avec les vrais gens, en analysant leur cerveau dans les moindres détails et en reproduisant sur votre ordinateur. On peut imaginer que cette technologie «sauve» les gens de la maladie mortelle; certains трансгуманисты voient dans cette voie au immortel de la conscience.

Bien Sûr, tout cela peut être une chimère — mais nous disons le contraire. Maintenant, nous allons nous prendrons ensemble d'utilité des principes moraux, soumis par Jeremy Бентамом à la fin du 18ème siècle et par la suite de raffinage John Stuart Миллом. Compte tenu de toutes les circonstances, dit Bentham, nous devons nous efforcer de porter le maximum de bonheur (ou de «l'utilité») le plus grand nombre possible de personnes. Ou, pour reprendre les termes d'Milla, «les actes sont justifiés en proportion, autant qu'ils portent bonheur, et de ne pas justifiées, si elles conduisent à un manque de bonheur».

Les principes d'une bonne conduite il y a beaucoup de critiques. Par exemple, comment pouvons-nous mesurer ou comparer les types de bonheur, d'évaluer la valeur de l'amour de grand-mère, par exemple, sur les balances admiration virtuose du piano? «Même si vous voulez prendre de l'utilitarisme sérieusement, vous ne savez pas quelles sont les qualités qui vous met dans les calculs, ont vraiment de la valeur», dit Ken. Toutefois, la plupart des systèmes de croyances aujourd'hui par défaut reconnaissent le moral d'une boussole qui pointe vers plus de bonheur, certainement la plus préférable que celui qui regarde.

Selon le scénario de Kent, à supposer d'utilité, de motivation, peut se produire une opinion que nous nous devons d'avancer et de multiplier nos simulées, ou симулированных, des créatures — appelons-les sims — sans restriction. Dans le monde réel est incontrôlée de la procréation a des défauts évidents. Les gens vont souffrir, émotionnellement et économiquement, tout en ayant plus de famille; la surpopulation exerce déjà une pression sur les ressources mondiales, et ainsi de suite. Mais dans le monde virtuel de telles limites ne peuvent pas être. Vous pouvez créer une utopie avec presque pas de ressources limitées. Pourquoi, dans ce cas, vous ne pouvez pas créer autant de mondes, autant que possible, et pour remplir leurs joyeux sims?

Notre intuition vous donne la réponse: mais pourquoi? Peut-être, conscient sim tout simplement ne va pas avoir la même valeur intrinsèque, comme un homme de chair et de sang? Cette idée exprime Michael Медери, spécialiste de la philosophie de la conscience et de l'éthique de la réalité virtuelle de l'Université de Тулейн à la Nouvelle-Orléans, et estime qu'il vaut la peine de la prendre au sérieux.

«Dans la vie de l'homme mystique est un élément qui nous fait nous poser des classiques philosophiques des questions du type: pourquoi il y a quelque chose plutôt que rien? Y at-il un sens à la vie? Avons-nous l'obligation de vivre sur l'honneur?», dit-il. «Симулированный l'esprit pouvait se poser des questions, mais de notre point de vue, ils n'auront de sens, parce que cela nous avons décidé de l'inventer».

Certains philosophes pensent que nous-mêmes pouvons être semblables à симулируемыми êtres. Cette possibilité nous ne pouvons pas exclure, mais néanmoinsconsidérons ces questions intelligibles. On peut donc aussi supposer que les sims ont le droit de poser des questions.

Kent avec pose une question: comment serait plus juste — créer une population d'êtres identiques ou différents? Évidemment, le plus efficace serait de créer des êtres identiques — assez d'information sur l'un, pour créer un N de tel. Mais nos instincts nous donnent à penser que dans la diversité a un sens et une valeur. Et pourquoi, je me demande si pas de raisons de penser que N différents individus seront plus heureux que N est identique.

L'Approche du Kent réside dans le fait que les différentes de la vie est préférable à plusieurs copies de la même. «Je ne peux pas me débarrasser de l'idée que l'univers à un milliard de indépendants identiques émulations d'Alice sera moins intéressant et de qualité, que l'univers à un milliard de différents individus», dit-il. Il appelle cela la notion de неполноценностью de la réplication.

Si l'on considère l'espace, peuplé de milliards d'Alice, que ce soit la peine de parler d'une vie, размноженной beaucoup de fois, ou nous parlons de la vie courante sur de nombreux mondes. Il peut suivre qu'une multitude d'Alice dans le identique à l'environnement aient pas de valeur, pas plus qu'une. Ce script il appelle utiliser getting la réplication. «Je me penche à cet avis», a déclaré Kent, reconnaissant, toutefois, que ne peut pas trouver de preuve concluante d'un argument en sa faveur.

L'expérience de Pensée de Kent affecte plusieurs anciennes énigmes de la philosophie morale, qui n'ont jamais été résolus. Le philosophe anglais Derek Парфит, qui est mort l'année dernière, a considéré dans son monumental travail sur la personnalité et le «je», «des Causes et de la personnalité» (1984). Парфит réfléchi à ces questions, par exemple, combien de personnes doit être en général, et toujours sera moralement mieux ajouter de la vie qui vaut la peine de vivre, dans le tumulte du monde, lorsque nous en avons l'occasion.

Même si vous faites le ménage point de vue, le problème de la recherche du plus grand bonheur pour le plus grand nombre: des doubles critères créent des ambiguïtés. Par exemple, imaginez que nous avons le contrôle sur combien de personnes vivent dans le monde avec les ressources. On pourrait penser à ce que doit être un nombre optimal de personnes qui (en principe) vous permettra d'utiliser au mieux les ressources pour assurer le bonheur et la prospérité pour tous. Mais est-ce que dans une telle utopie, il n'y aurait de place pour un autre homme? Ne serait-il pas acceptable de réduire le bonheur de tous à un minimum, afin d'assurer une vie heureuse?

Le Problème est que ce processus est sans fin. La mesure de la croissance des chiffres supplémentaire bonheur de nouvelles vies pourraient l'emporter sur les coûts de ceux qui sont déjà en vie. En fin de compte, dit Парфит, vous arrivez à un «hideux conclusion»: à un scénario dans lequel le meilleur résultat sera enflée une population de personnes qui sont désespérément malheureux, mais qui mieux que s'il n'y avait pas de vie du tout. Dans l'ensemble de leurs maigres bribes de bonheur représentent plus que la somme d'un petit nombre sincèrement heureux habitants. «Il m'est difficile d'accepter cette conclusion», a écrit Парфит, mais peut-on justifier une telle approche? Kent ne le sait pas. «Je ne sais pas, peut-être quelque chose d'une décision éclairée sur hideux dduction», dit-il.

À la racine de cette question est que les Парфит a appelé «le problème de неидентичности»: comment pouvons-nous réfléchir rationnellement sur les questions préoccupés par les individus, si leur existence dépend des choix que nous faisons (comme la recherche d'un lieu pour «autre»)? Peser les avantages et les inconvénients qui peuvent affecter une personne, en fonction de nos décisions, en principe, n'est pas si difficile. Mais si de prendre en compte la possibilité que ce personnage pourrait ne jamais exister, nous ne savons comment trouver. Par rapport à zéro ou à la fin de la vie que vous voulez c'est la victoire, donc on peut moralement défendable, même les pires scénarios de l'existence.

Dans ce jeu, dans le ménage de la population il y a un très étrange scénario. Que si il y avait des gens avec une telle nécessité dans le bonheur, que demandé de les autres plus que ceux-ci peuvent permettre de donner? Un philosophe américain Robert Розик a appelé ce la création d'un «utilitaire monstre» et critiqué dans son livre «l'Anarchie, état et utopie» (1974). Selon Нозика, cette image «exigera de nous tous des victimes en faveur d'un monstre pour améliorer l'utilité générale». Une grande partie du livre Парфита a été une tentative — sans succès et finalement à s'échapper de l'odieux de la sortie et de l'utilité du monstre.

Maintenant, revenons aux mondes virtuels Kent, plein de sims, et son principe d'incapacité de réplication — quand un certain nombre de différents vies valent plus que le même nombre de identiques. Peut-être, cela nous permettra d'éviter l'odieux de sortie Парфита. Malgré le fait que léon Tolstoï a dit sur les inégalités en matière d'accidents par les familles en début D'Каренины» (1878), il semble qu'un grand nombre d'accidents et de vies est presque de la même manière dans leur sombre tristesse. Par conséquent, vous ne pouvez pas les sélectionner et goutte à augmenter le bonheur total.

Mais exactement la même infériorité de la réplication toléré утилитарному monstre, par définition, il doit être unique, et donc, plus de «valeur», en comparaison avec l'inévitable est la similitude des vies qui l'alimentent. Une telle solution, nous aussi, ne répond pas. «Ce serait bien si les gens comme quelque chose de plus réfléchi sur ces questions», reconnaît le Kent. «Je suis dans une certaine perte».

Pour l'american libertaire de l'économiste RobinHanson — professeur d'économie à l'Université George Mason, en Virginie — ces réflexions ne sont pas tant des techniques mentales doit des expériences, combien les prédictions de l'avenir. Son livre, «l'Ère de l'Em» est une société dans laquelle tous les gens téléchargent de votre conscience dans un ordinateur, afin de vivre la vie dans la forme d'un «émulations» (pas de sims, et эмов). «Des milliards de ces téléchargements pourraient vivre et travailler dans un bâtiment de grande hauteur, et de l'espace serait suffisant pour tous», écrit-il.

Hanson a examiné en détail, comment pourrait fonctionner une telle économie. Эмы peuvent être de toute taille — certains d'entre eux sont très petits et le temps pour eux peut aller différemment en comparaison avec les gens. Sera une observation attentive et un petit salaire, mais эмы peuvent se débarrasser de cette souffrance, en sélectionnant la vie sans travail. (Hanson estime que nous pouvons vivre dans un tel monde).

Ce script permet la duplication de lui-même, puisque le mental a déjà été déplacé sur l'ordinateur, c'est pourquoi la création de copies est assez simple. Hanson dit que le problème de l'identité dans un tel cas, érodé: les doubles sont «une seule et même personne» à l'origine, mais peu à peu leur identité en contradiction, quand ils commencent à vivre séparément.

Hanson suppose que la duplication des gens ne sera pas seulement possible, mais souhaitable. Dans le prochain siècle эмов les personnes particulièrement précieuses facultés mentales sont «chargé» de nombreuses fois. Et en général, les gens veulent faire plusieurs copies de lui-même dans tous les cas comme une forme d'assurance. «Ils peuvent préférer la redondance dans sa propre mise en œuvre, afin de s'assurer qu'ils seront en mesure de survivre à l'inattendu de la catastrophe», a déclaré Hanson.

Mais il ne pense pas qu'ils choisissent un scénario de Kent, d'identiques vies. Эмы «ne seront pas attacher de la valeur particulière de la vivre de la même vie à des moments et des lieux différents. Ils vont investir la valeur dans de nombreuses copies, parce que ces copies seront en mesure de travailler ou de communiquer avec les autres. Mais un tel travail et les relations vont exiger que chaque copie a été la cause est indépendante, et de leur histoire se sont entrelacés, en fonction des tâches, ou comme des partenaires».

Dans tous les cas, эмам besoin de lutter avec les difficultés morales, à surestimer que nous n'avons pas pu. «Je ne pense pas que la moralité, qui est apparu chez l'homme, est assez commun ou fiable, afin de donner des réponses positives à des situations similaires, qui sont si loin de «l'expérience» de nos ancêtres», a déclaré Hanson. «Je prédis que эмы auront beaucoup de différentes des opinions en conflit en ce qui concerne des choses».

Эмы, les sims et notre virtuel à l'avenir

Maintenant, tout cela peut paraître très étrange, comme apocryphes médiévales de la conversation sur les anges qui dansent sur la pointe des pieds. Pourrons-nous jamais créer une vie virtuelle, qui sera semblable à un vrai en général? «Je ne pense pas que quelqu'un est capable de dire avec certitude, c'est peut-être ou pas», dit-Kent, en partie parce que «nous n'avons pas de bon exposé scientifique sur la conscience.

Même si la technologie se déplacent vers l'avant, et ces questions restent ouvertes. Petit-déjeuner philosophe Nick Bostrom, de l'Institut de l'avenir de l'homme, a affirmé que la puissance de calcul disponible «постчеловеческой» de la civilisation, qui vous permet de simuler des êtres qui vivent dans le monde et le sentent tout aussi réelle, comme nous. (Bostrom est également d'avis que nous pourrions vivre dans une telle simulation). Mais les questions sur la façon de nous former la population de ces mondes, représentent une «véritable dilemme pour les programmeurs, les scientifiques et les законоделов de l'avenir, mais pas si lointain», dit Kent.

Le script du Kent a déjà peuvent être les conséquences pour le monde réel. Les arguments sur la maximisation de l'utilité et le problème неидентичности se produisent dans les discussions sur la promotion et la prévention de l'humain de la conception. Quand faut-il renoncer à la conception dans le cas d'un risque, par exemple, le développement d'une anomalie chez l'enfant? Aucun de ces nouvelles méthodes ne garantit pas une sécurité totale et n'est jamais garanti, mais la FIV n'aurait jamais le faire, si c'était impératif. On suppose que cette technique doit respecter un certain seuil de risque. Mais l'approche utilitariste conteste cette idée.

Et si la nouvelle méthode de provisionnement de reproduction aurait eu un risque modéré de l'apparition de petits défauts à la naissance — par exemple, les taches de naissance? (C'est un véritable argument: l'histoire de Натаниэля de Hawthorne 1843 raconte алхимике, qui a tenté, avec des conséquences fatales, de supprimer un marqueur de sa femme, a cité l'exemple d'un conseil national de bioéthique états-UNIS en 2002). Il est difficile de dire que les gens marqués par la tache sera pire que les autres, et donc ne devraient pas être prises par la méthode. Mais où tracer la ligne? Quand un défaut de naissance est préférable de ne pas incarner dans la vie?

Certains ont mentionné ce dilemme en parlant de la protection de clonage de l'homme. Si les dangers, tels que la stigmatisation sociale ou brouillé parents motivations et les attentes, l'emportent sur les avantages de donner la vie. Qui sommes-nous pour faire le choix pour cloné de l'homme? Quelqu'un nous allons, si nous allons faire ce choix avant que l'homme ne sera jamais exister?

Ce genre de raisonnement, apparemment, exigent de nous comme dieu les solutions. Mais феминистичный un observateur aurait pu penser que nous sommes la victime d'une des versions de la fantaisie de Frankenstein. En d'autres termes, n'est-ce pas une poignée d'hommes des rêves de l'idée d'enfin commencer à fabriquer les gens, quand les femmes le faisaient depuis des siècles? Un sentiment de nouveauté, qui conduit à l'apparition de ces débats, a patriarcalede la plaque.

Même si la perspective virtuel de la conscience soulève très frais et fascinant des questions éthiques — qui, de l'avis de Kent, qui nous poussent à contester intuitive de la valeur que nous plaçons dans la vie et la démographie. Il est extrêmement difficile de voir un argument en faveur du fait qu'un certain nombre de vies est moralement préférable de le même nombre identiques. Pourquoi nous le pensons? Comment nous débarrasser de préjugés?

On pourrait dire que la perception de l'homogénéité dans les populations humaines, ronge la capacité à l'empathie et de l'éthique de pensées. «Sans visage» de la foule qui confronte l'individu est habituel timbre, qui provoque une sensation d'héroïsme. Mais ce n'est pas nécessairement correct.

Peut-être, nous avons une aversion aux mêmes individus, en particulier si l'on considère que la diversité génétique de la population assure sa survie? Souvenez-vous des films sur les vrais jumeaux ou des clones — ce n'est pas toujours une apparence agréable. Ressemble à un même sinistre. En 1919, cette sensation de Sigmund Freud s'est associé à l'idée d'un mal de double (доппельгангера). Et si dans le cas de jumeaux identiques, il est encore possible de comprendre une centaine de «identiques» personnages peuvent sembler terrible.

Il Ne semble pas que nous faisons face à des armées de doublons bientôt, dans le monde réel ou virtuel. Mais la valeur des expériences de pensée réside dans le fait qu'ils vous donnent une nouvelle façon de comprendre les questions de ce monde. En imaginant l'éthique de nos relations à симам, nous révélons шаткую ou n'existant pas la logique, que nous utilisons instinctivement, en cherchant à valeur morale de notre propre vie.

Maintenant, tuez le numérique la mouche? Dites-nous dans notre