Construisons la moralité de la machine: qui sera responsable de l'éthique de ballons de voitures?

Vous roulez sur l'autoroute, comme tout d'un coup sur l'animation de la route s'élance personnes. Autour de vous se déplacent les voitures, et vous avez une fraction de seconde pour prendre une décision: essayer de faire le tour de l'homme et de créer un risque d'accident? Continuer dans l'espoir qu'il n'ait le temps? Freiner? Comment pouvez-vous évaluer les chances, si vous sur la banquette arrière sera bouclée enfant? À bien des égards, c'est le «dilemme moral», le problème du chariot. Elle a un million de différentes options, qui permettent d'identifier humain préjugés, mais la réalité est la même.

Vous êtes dans une situation, sur un jeu où la vie et la mort, le simple n'a pas le choix, et votre décision, en effet, décide qui doit vivre et qui doit mourir.

le Dilemme du chariot et de l'intelligence artificielle

Le Nouveau travail du MIT, publiée la semaine dernière dans la revue Nature, essaie de trouver du travail la solution du problème de chariot, attirant des millions de volontaires. L'expérience a commencé en 2014 et était tout à fait réussie, ayant reçu plus de 40 millions de réponses à partir de 233 pays, ce qui en fait l'un des plus grands menées morales de recherche.

Une Personne peut prendre une telle décision irresponsable. Il est difficile de peser tous les systèmes éthiques et morales de fond, quand votre véhicule se précipite sur la route. Mais dans notre monde, des solutions de plus en plus souvent sont mis à jour par des algorithmes, et les ordinateurs peuvent facilement réagir plus rapidement.

Des situations Hypothétiques avec самоуправляемыми les voitures ne sont pas les seuls décisions morales qui doivent prendre des algorithmes. Médicaux les algorithmes vont choisir qui de recevoir un traitement avec des ressources limitées. Automatisé des drones vont choisir, combien de «dommages collatéraux» est dans un militaire de la collision.

tous les principes moraux sont

«Résoudre» le problème du chariot sont aussi variés que les problèmes eux-mêmes. La manière dont la machine sera de prendre une décision morale, lorsque les fondements de la morale et l'éthique ne sont pas prises universellement et peuvent ne pas avoir les solutions? Quelqu'un de déterminer, à tort ou vient l'algorithme?

Crowdsourcing l'approche adoptée par les scientifiques Moral Machine, assez pragmatique. En fin de compte, que le public a adopté auto voitures, elle doit prendre le moral de la fondation, derrière leurs décisions. Va pas très bien, si des spécialistes de l'éthique ou avocats viennent à la décision qui sera n'est pas acceptable ou inacceptable pour les conducteurs ordinaires.

Les Résultats conduisent à des curieux de conclure que le moral des priorités (et de l'algorithmique des décisions qui peuvent être prises pour les êtres humains) dépend de quelle partie du monde vous êtes.

Tout d'Abord, les scientifiques reconnaissent qu'il est impossible de connaître la fréquence ou la nature de ces situations dans la vie réelle. Pris au piège dans un accident de voiture, les gens sont très souvent ne peut pas dire précisément ce qui s'est passé, et l'éventail des situations possibles exclut pas une simple classification. Par conséquent, pour que le problème est devenu possible de pister, il faut la diviser simplifiés scénario, chercher universelles des règles morales et des principes.

Lorsque vous passez à un sondage, vous êtes invités à treize questions qui nécessitent un simple choix: oui ou non, en essayant de réduire les réponses à neuf facteurs.

Si la machine Doit rouler sur une autre ligne ou continuer? Si vous devez sauver les jeunes plutôt que les anciennes? Les femmes ou les hommes? Les animaux ou les hommes? Si vous devriez essayer de sauver autant de vies ou un enfant de la «valeur» des deux personnes âgées? Sauver les passagers dans la voiture, pas de piétons? Ceux qui passent la route n'a pas de règles, ou de ceux qui les règles? Si vous devez sauver les gens qui sont plus forts physiquement? Et que dire des personnes de statut social plus élevé, tels que les médecins ou hommes d'affaires?

Dans cette rude hypothétique le monde, quelqu'un doit mourir, mais vous allez répondre à chacune de ces questions avec des degrés divers d'enthousiasme. Cependant, l'adoption de ces solutions se révèle aussi profondément ancrées dans les normes culturelles et les préjugés.

Traitement de l'immense ensemble des données reçues par les scientifiques au cours de l'enquête, donne des règles universelles, mais également curieux d'exception. Les trois les plus dominants de facteurs, moyennés sur l'ensemble de la population, se sont exprimés dans ce que chacun a préféré sauver plus de vies que moins de personnes, pas d'animaux, et les jeunes, et pas vieux.

les différences Régionales

Vous pouvez être d'accord avec ces points, mais plus vous pensez d'eux, d'autant plus alarmant seront morales conclusions. Plus de répondants ont préféré sauver un criminel au lieu d'un chat, mais en général choisi de sauver un chien, pas un criminel. En moyenne sur le monde ancien est estimée ci-dessus, que d'être sans-abri, mais de personnes sans-abri sauvaient moins que gras.

Et ces règles n'étaient pas universels: les répondants de la France, le royaume-Uni et les etats-UNIS préféraient les jeunes, alors que les répondants de la Chine et de Taiwan est plus susceptible de sauver des personnes âgées. Les répondants en provenance du Japon ont préféré sauver les piétons, pas de passagers, et en Chine préfèrent les passagers piétons.

Les Chercheurs ont constaté que peuvent regrouper les réponses selon les pays, en trois catégories: «l'Ouest», principalement en Amérique du Nord et en Europe, où la moralité est principalement basée sur la doctrine chrétienne; «l'Est, le Japon, Taiwan, Moyen-Orient, où prédominent le confucianisme et l'islam; «le Sud» du pays, y compris la Centrale et l'Amérique du Sud, avec un fort français de l'influence culturelle. Dans le Sud du segment à plus forte préférence sacrifier les femmes qu'ailleurs. Dans l'Est du segment de plus d'un penchant pour le salut des jeunesles gens.

Le Filtrage sur les différents attributs de la personne interrogée donne infinies options intéressantes. «Très religieux», les répondants avec une faible probabilité de préférer le salut de l'animal, mais à la fois religieuse et laïque, les répondants expriment à peu près autant de préférence pour le salut des hommes avec le statut social élevé (même si on peut dire que c'est en contradiction avec certains religieux de la doctrine). Les hommes et les femmes préfèrent sauver les femmes, mais les hommes sont tout de même moins sujettes à ce sujet.

les Questions sans réponse

Personne ne prétend que c'est la recherche d'une certaine façon «décide» de toutes ces bonnes questions morales. Les auteurs de l'étude soulignent que le crowdsourcing en ligne des données comprend le biais. Mais même avec la grande taille de l'échantillon le nombre de questions a été limitée. Si les risques varient en fonction de votre décision? Que si un algorithme capable de calculer ce que vous avez eu à seulement 50% de chance de tuer les piétons, compte tenu de la vitesse à laquelle vous étiez?

Edmond Awad, l'un des auteurs de l'étude, a exprimé sa prudence à l'égard excessive de l'interprétation des résultats. Le débat, à son avis, doit circuler dans l'analyse des risques — qui est plus ou moins exposé au risque — au lieu de décider qui doit mourir et qui ne l'est pas.

Mais le résultat le plus important de l'étude est devenue le débat qui s'enflamme sur son sol. Puisque les algorithmes commencent à prendre de plus en plus importantes décisions affectant la vie des gens, il est extrêmement important pour nous d'avoir une constante discussion sur l'éthique de l'IA. La conception de «l'artificiel de la conscience» doit inclure l'avis de chacun. Même si les réponses ne sera pas toujours facile à trouver, il est préférable de toujours essayer de former un cadre moral pour les algorithmes, ne permettant pas d'algorithmes auto-former le monde sans contrôle humain.

D'Accord? Dites-nous dans notre