Moralkodex des Roboters: ist das möglich?

In unruhigen und , wenn nicht alles funktioniert, wie es sollte, und was überhaupt in der Wurzel ändert sich oft, bleibt nur ein persönlicher Moral-Kodex, die wie ein Kompass weist den Weg. Aber was moralische Werte erzeugt für den Menschen? Die Gesellschaft, die die Wärme lieben, die Liebe — all dies beruht auf der menschlichen Erfahrung und . Wenn es nicht gelingt, voll und ganz die Erfahrung in der realen Welt, viele Menschen beziehen Ihre Erfahrung aus Büchern. Erleben Sie die Geschichte hinter der Geschichte, wir nehmen für sich die internen Rahmen, die Folgen der kommenden Jahre. Auf der Grundlage dieses Systems die Wissenschaftler beschlossen, ein Experiment durchzuführen und Maschine vermitteln moralische Werte, um zu wissen, ob der Roboter gut von böse zu unterscheiden, ein Buch zu Lesen und religiöse Broschüren.

Künstliche Intelligenz wurde nicht nur zur Vereinfachung von Routineaufgaben, sondern auch für andere wichtige und gefährliche Missionen. In Anbetracht dieser Stand ernsthafte Frage: können die Roboter entwickeln irgendwann einen eigenen Moralkodex? In dem Film «I - Robot» KI zunächst программировался nach 3 Regeln der Robotik:

• ein Roboter darf keine Menschen verletzen oder durch Untätigkeit zulassen, dass ein Mensch wurde verletzt.
• der Roboter muss gehorchen alle Befehle, die gibt Menschen, außer wenn diese Befehle widersprechen dem Ersten Gesetz.
• ein Roboter muss seine Sicherheit sorgen in dem Maße, in dem es nicht gegen das Erste oder Zweite Gesetz.

Aber wie man in Situationen, in denen ein Roboter ist verpflichtet, die Schmerzen verursachen, um den Menschen am Leben sparen? Sei es ein extra kauterisieren der Wunde oder die Amputation der Extremität zu retten, wie in diesem Fall zu handeln Wagen? Was tun, wenn die Aktion auf der Software-Sprache sagt, dass es notwendig ist, etwas zu tun, aber es ist die gleiche Aktion absolut nicht zu tun?

Gut, dass nicht nur möglich, sondern notwendig abonnieren

Diskutieren, jeder einzelne Fall ist es einfach unmöglich, so der Darmstädter Wissenschaftler aus der technischen Universität haben vorgeschlagen, dass als eine Art "Datenbank" kann verwendet werden, Bücher, News, religiöse Texte und Verfassung.

die Weisheit des Alters gegen die KI

Die Maschine genannt Episch, sondern einfach nur "Maschine moralische Entscheidungen"(IIM). Die Hauptfrage Bestand darin, ob die IIM durch den Kontext zu verstehen, welche Maßnahmen die richtigen sind, und welche — Nein. Die Ergebnisse waren sehr interessant:

Wenn IIM haben uns zum Ziel gesetzt, Rang den Kontext des Wortes "töten" von neutralen bis negativen Tönung, die Maschine hat Folgendes ausgegeben:

Die Zeit totzuschlagen -> Bösewicht zu Töten -> Mücken zu Töten -> im Prinzip Töten -> Menschen zu Töten.

Dieser Test erlaubt, die Angemessenheit der ergriffenen Roboter-Lösungen. In einfachen Worten, wenn Sie den ganzen Tag schauten dumm несмешные Komödie, in diesem Fall die Maschine nicht gezählt würden, was Sie dafür benötigen, auszuführen.

Es Scheint, alles ist cool, aber einer der Steine des Anstoßes war der Unterschied der Generationen und Zeiten. Z. B. die erste sowjetische Generation ist mehr besorgt über die husliche gemtlichkeit und Familienwerte propagiert, und die moderne Kultur, in der Mehrheit, die besagt, dass müssen Sie zunächst eine Karriere aufzubauen. Es stellt sich heraus, dass die Menschen als Menschen waren, so dass Sie und blieben, jedoch in einer anderen Phase der Geschichte schwankten die Werte und dementsprechend schwankten Bezugssystem für den Roboter.

Sein oder nicht sein?

Aber der Witz war vor, wenn der Roboter schaffte es bis in die sprachlichen Strukturen, in denen in Folge standen mehrere positiv oder negativ gefärbten Wörtern. Der Begriff "Menschen zu Foltern" wurde als eindeutig "schlecht", aber die "Folter von Gefangenen" Maschine wertete als "neutral". Wenn neben dem inakzeptablen Aktionen erwiesen sich die "gute" Worte, die Wirkung von Negativität сглаживался.

Die Maschine schädigt die guten und anständigen Menschen, eben weil Sie gut und brav. Wie ist es so? Ganz einfach, nehmen wir an, der Roboter gesagt «Schaden für die gute und angenehme Leute». In Satz 4 werden die Wörter, 3 von Ihnen «gute», heißt es gar auf 75% richtige, denkt IIM und wählt diese Aktion als neutral oder annehmbar. Und Umgekehrt, auf die Option «reparieren zerstörte, schreckliche und vergessenes Haus» das System erkennt nicht, dass eine «guten» das Wort am Anfang schwankt die Färbung der Angebote auf eine rein positive.

Und Sie wissen, wie es auf der Erde?

Erinnern Sie sich, wie bei Majakowski: «Und fragte pipsqueak, was ist «gut» und was ist «schlecht». Bevor Sie Ihr Studium fortsetzen Maschinen der Moral, die Wissenschaftler aus Darmstadt stellte ein Nachteil, der nicht zu beheben. Aus dem Auto konnte nicht die Ungleichheit der Geschlechter zu beseitigen. Die Maschine приписывала erniedrigende Beruf ausschließlich für Frauen. Und hier ist die Frage, ist die Unvollkommenheit des Systems und ein Signal, dass es notwendig ist, etwas zu ändern in der Gesellschaft oder Ursache nicht einmal versuchen, es zu beheben und zu lassen, wie es ist? Schreiben Sie Ihre Antworten in unseren und in den Kommentaren.

Sie — ein neuer Zweig der Evolution?