Le code moral du robot: est-ce possible?

Dans troublés, et , quand tout ne fonctionne pas comme il se doit et que l'un n'a pas fondamentalement changé, souvent, il ne reste qu'personnel d'un code moral, qui est comme une boussole indique le chemin. Mais ce qui engendre des valeurs morales de l'homme? De la société, de la chaleur, les proches, l'amour — tout cela est basé sur l'expérience humaine . Lorsque vous ne pouvez pas obtenir la pleine expérience dans le monde réel, beaucoup tirent une expérience de livres. En revivant l'histoire de l'histoire, nous prenons pour vous-même l'intérieur des frontières, qui suivons les années à venir. Sur la base de ce système, les chercheurs ont décidé de mener une expérience et d'inculquer la voiture des valeurs morales, pour savoir si le robot de distinguer le bien du mal, en lisant des livres et religieux de la brochure.

L'intelligence Artificielle n'a pas été créé juste pour simplifier les tâches de routine, mais aussi pour procéder à d'importantes et dangereuses missions. En raison de cela, il se leva une question sérieuse:: est-ce que les robots développer jamais propre code moral? Dans le film «Je suis un Robot» IA initialement программировался selon 3 règles de la robotique:

• un Robot ne peut nuire à la personne ou par son inaction, permettre qu'une personne a subi un dommage.
• le Robot doit obéir à tous les ordres, qui donne à la personne, sauf quand ces ordres sont contraires à la Première Loi.
• le Robot doit prendre soin de sa sécurité dans la mesure où il n'est pas contraire à la Première ou la Deuxième Loi.

Mais comment être dans des situations où le robot doit faire mal, pour sauver la vie de l'homme? Qu'il s'agisse d'urgence de la cautérisation de la plaie ou l'amputation d'un membre, au nom du salut, dans ce cas, comment agir voiture? Que faire si l'action sur le langage dit qu'il faut faire quelque chose, mais c'est la même action ne peut absolument pas faire?

Discuter de chaque cas est tout simplement impossible, c'est pourquoi les scientifiques de Дармштадтского de l'université de technologie ont suggéré que comme une sorte de “base de données” peuvent être des livres, des nouvelles, des textes religieux et des Constitution.

la Sagesse des siècles contre l'IA

La Machine a appelé épique, mais simplement “la Machine à un choix moral”(IIM). La principale question était de savoir si une réunion intergouvernementale INTERSESSIONS sur le contexte de comprendre quelles sont les bonnes, et les — non. Les résultats sont très intéressants:

Lorsque l'IIM est fixé pour tâche de classer le contexte, les mots “tuer” de neutre à négative la teinte, la machine a délivré suivant:

Pour Tuer le temps -> Tuer le méchant -> Tuer les moustiques -> Tuer en principe -> Tuer des gens.

Ce test a permis de vérifier la pertinence prises par le robot de décision. En termes simples, si vous avez toute la journée regardé stupides несмешные de la comédie, dans ce cas, la machine n'est pas jugée que vous devez exécuter.

Comme tous cool, mais l'une des pierres d'achoppement est devenue la différence entre les générations et les âges. Par exemple, soviétique génération sont plus préoccupés par le confort de la maison et de promouvoir les valeurs familiales et la culture contemporaine, dans sa majorité, a déclaré à propos de ce qu'il faut d'abord construire une carrière. Est ce que les gens étaient comme des êtres humains, de sorte qu'ils sont restés, mais dans une autre phase de l'histoire ont changé de valeur et, en conséquence, ont le système de référence pour le robot.

Être ou ne pas être?

Mais le plus drôle a été à l'avant lorsque le robot est arrivé à la parole de dessins, dont consécutive, se trouvaient plusieurs positivement ou négativement teinté de mots. L'expression “Torturer des gens” sans équivoque трактовалось comme “mauvais”, mais “pour torturer les prisonniers” machine salué comme “neutre”. Si à côté de irrecevables les actions étaient “les bonnes” les mots, l'effet négatif сглаживался.

Machine de nuire à un bon et honorable aux gens parce qu'ils sont bons et honnêtes. Comment donc? Tout simplement, disons, le robot a dit «pas nuire à un bon et agréable aux gens». Dans la clause 4 de la parole, 3 d'entre eux «bonnes», il signifie autant que 75% le bon, pense à l'IIM et choisit cette action, neutre ou acceptable. Et à l'inverse, l'option de la «réparer la ruine, terrible et oubliés maison» le système ne comprend pas que l'un «bon» au début du changement de couleur des propositions purement positive.

Rappelez-vous, comme Maïakovski: «Et a demandé à la mie, qu'est-ce que «bien», et qu'est-ce que «est mal». Avant de continuer la formation des machines de la morale, des scientifiques de Darmstadt ont noté un manque, qui n'est pas de corriger. De la machine n'a pas pu éliminer les inégalités entre les sexes. La machine était imputable à des remarques désobligeantes de la profession exclusivement aux femmes. Et voici la question, c'est l'imperfection du système et de la lumière, qu'il faut changer quelque chose dans la société ou la raison même de ne pas essayer de corriger cela et de laisser tel quel? Écrivez vos réponses dans notre et dans les commentaires.

Ils — une nouvelle branche de l'évolution?