Was ist Angst die Entwickler die KI in seiner Schöpfung

Wie eine Person in der Forschung der künstlichen Intelligenz, die ich oft mit der Meinung über die Tatsache, dass viele Menschen Angst vor der KI und der Tatsache, dass er sich entwickeln kann. Eigentlich kein Wunder, wenn man sich mit den Positionen der Geschichte der Menschheit, wobei die Aufmerksamkeit auf das, was stopft uns die Unterhaltungsindustrie, dass die Menschen Angst vor der kybernetischen Revolte, die machen uns Leben auf isolierten Gebieten, und andere verwandeln in «Матрицеподобный» menschlichen Art der Batterien.

Und doch ist für mich Blick auf all diese evolutionären Computer-Modelle, die ich benutze in der Entwicklung von KI, ist es schwierig darüber nachzudenken, was meine Harmlose, sauber wie eine Träne Baby-Erstellung auf dem Bildschirm meines Computer eines Tages in der Lage verwandeln sich in ein Monster futuristischen Dystopie. Wirklich, mich als «Zerstörer der Welten», wie er einmal bedauert und von sich selbst sagte Oppenheimer, nachdem das Programm führte nach der Bildung der Atombombe?

Vielleicht würde ich solchen Ruhm, und kann die Kritik meiner Arbeit doch Recht haben? Vielleicht sollte ich wirklich die Zeit zu stoppen, vermeiden die Frage, welche ängste in Bezug auf künstliche Intelligenz gibt es bei mir selbst, als Experte im Bereich der KI?

die Angst vor der Unberechenbarkeit

Der Computer HAL 9000, der Traum der wissenschaftlichen Science-Fiction-Autor Arthur Charles Clarke und der leibhaftige in das Leben der Filmregisseur Stanley Kubrick Regie in seinem Film «2001: Odyssee im Weltraum», ist ein hervorragendes Beispiel für Systeme, die Fehler aufgrund von unvorhergesehenen Umständen.

In vielen komplexen Systemen – Titanic, Space Shuttle der NASA und der Tschernobyl-Kraftwerk – Ingenieure mussten untereinander kombinieren eine Vielzahl von Komponenten. Vielleicht die Architekten dieser Systeme bekannt war perfekt, wie jedes Element funktioniert einzeln, aber Sie sind nicht gut verstanden, wie alle diese Komponenten zusammenarbeiten.

Das Ergebnis sind Systeme, die so niemals bis zum Ende nicht verstanden wurden Ihren Schöpfern, und das hat die bekannten Folgen. In jedem Fall – das Schiff ertrunken, zwei Shuttles explodiert und fast ganz Europa und teilen Asiens konfrontiert mit dem Problem der radioaktiven Verseuchung – Set relativ kleine Probleme, aber durch Zufall gleichzeitig vorgekommenen, haben eine katastrophale Wirkung.

Ich kann mir gut vorstellen, wie wir, die Schöpfer der KI, können zu ähnlichen Ergebnissen führen. Wir nehmen die neuesten Entwicklungen und die Forschung in когнивистике (die Wissenschaft über das denken, — ca. Red.), übersetzen Sie in Computer-algorithmen und fügen diese in bestehende Systeme. Wir versuchen, die KI zu entwickeln ohne ein umfassendes Verständnis der eigenen Intelligenz und des Bewusstseins.

Systeme wie Watson von IBM oder Alpha von Google, sind künstliche neuronale Netze, die beeindruckenden Computing-Funktionen und sind in der Lage zu bewältigen, wirklich schwierige Aufgaben. Aber solange das einzige, wozu führt ein Fehler in Ihrer Arbeit, wird das Ergebnis der Verlust in der intellektuellen Spiel «Jeopardy!» oder verpasste Gelegenheit zu schlagen zum nächsten besten Spieler der Welt in der Desktop-Puzzle-Spiel.

Diese Konsequenzen nicht tragen globalen Charakter. Eigentlich das Schlimmste, was passieren kann mit den Menschen in diesem Fall, so ist es jemand zu verlieren eine gewisse Menge an Geld auf raten.

Allerdings ist die Architektur der KI wird immer schwieriger, und die Computer-Prozesse — immer schneller. Die Möglichkeiten die KI mit der Zeit nur zunehmen. Und bereits dies führt uns dazu, dass wir anfangen aufzulegen KI immer mehr Verantwortung, auch trotz wachsender Risiken UNVORHERGESEHENER Umstände.

Wir sind uns bewusst, dass die «Fehler – es ist Teil der menschlichen Natur», deshalb ist es für uns einfach physisch unmöglich ist, eine wirklich sichere im gesamten System.

die Angst vor der falschen Verwendung

Ich bin nicht sehr besorgt über die Unberechenbarkeit der Folgen in der Arbeit der KI, die ich entwickle, indem der Ansatz der so genannten нейроэволюции. Ich erstelle virtuelle Umgebungen und заселяю Ihre digitalen Kreaturen, die Ihren «Gehirnen» Teams zur Bewältigung der zunehmenden Komplexität.

Im Laufe der Zeit die Wirksamkeit der Lösung der Aufgaben diesen Wesen wächst, entwickelt sich weiter. Diejenigen, die Aufgaben besser meistert, alle für die Reproduktion ausgewählt, die Schaffung auf Ihrer Basis eine neue Generation. Über viele Generationen diese digitalen Erstellung von kognitiven Fähigkeiten entwickeln.

Zum Beispiel, jetzt machen wir die ersten Schritte in der Entwicklung der Maschinen auf das Niveau der Ausführung der einfachen Navigations-Aufgaben, Annahme von einfachen Lösungen oder Auswendiglernen paar Bits Informationen. Aber bald erreichen wir die Entwicklung von Maschinen, die in der Lage, komplexe Aufgaben und haben viel effektiver dem Allgemeinen Niveau der Intelligenz. Unsere Letzte Ziel ist die Schaffung einer menschlichen Ebene Intelligenz.

Im Zuge dieser Entwicklung werden wir versuchen zu erkennen und zu beheben alle Fehler und Probleme. Mit jeder neuen Generation werden die Maschinen besser mit Fehlern umzugehen, im Vergleich zu früheren. Dies erhöht die Chancen, dass wir bestimmen können immer unvorhersehbare Konsequenzen in Simulationen und beseitigen, noch bevor Sie in der Lage, in der realen Welt realisiert werden.

Eine andere Möglichkeit, gibt die evolutionäre Methode der Entwicklung, ist das Zugeständnis Ethik der künstlichen Intelligenz. Es ist wahrscheinlich, dass solche ethischen und moralischen Eigenschaften des Menschen, wie Zuverlässigkeit und Altruismus, sind das Ergebnis unserer Evolution und Faktor seine Fortsetzung.

Wir können eine künstliche Umgebung und verleihen der Maschinedie Fähigkeiten, um Ihnen zu demonstrieren Freundlichkeit, Ehrlichkeit und Empathie. Es ist ein Weg, um sicherzustellen, dass wir entwickeln mehr gehorsamen Diener, sondern als gnadenlosen Killer-Roboter. Dennoch, trotz der Tatsache, dass нейроэволюция zu reduzieren kann unvorhergesehene Auswirkungen im Verhalten der KI, Sie kann nicht verhindern, dass eine missbräuchliche Verwendung der künstlichen Intelligenz.

Wie ein Wissenschaftler, dem ich Folgen muss seinen Verpflichtungen wahr und berichten darüber, dass entdeckte im Rahmen seiner Experimente unabhängig davon, gefallen mir die Ergebnisse oder nicht. Meine Aufgabe besteht nicht darin, zu definieren, was ich mag und was nicht. Wichtig ist nur, dass ich Ihre Arbeit zu veröffentlichen.

Angst vor falschen sozialen Prioritäten

Wissenschaftler Sein – bedeutet nicht Menschlichkeit zu verlieren. Ich muss auf einer bestimmten Ebene wieder erleben die Kommunikation mit Ihren Hoffnungen und ängsten. Als moralisch und politisch motivierte Persönlichkeit, muss ich berücksichtigen, die möglichen Konsequenzen Ihrer Arbeit und deren mögliche Wirkung auf die Gesellschaft.

Als Wissenschaftler und als Vertreter der Gesellschaft, haben wir noch nicht gekommen, um zu einer klaren Vorstellung, was genau wollen die von der KI und was er werden soll am Ende. Teilweise ist es natürlich, aufgrund der Tatsache, dass wir immer noch nicht ganz verstehen, sein Potenzial. Aber dennoch müssen wir klar erkennen und entscheiden, was wir wollen, bekommen von wirklich fortgeschrittenen künstlichen Intelligenz.

Einer der größten Bereiche, auf die Menschen achten im Gespräch über die KI, ist die Arbeitsbeschaffung. Die Roboter erfüllen für uns eine komplexe körperliche Arbeit, zum Beispiel, sammeln und untereinander schweißt Teile von fahrzeugkarosserien. Aber ein Tag wird kommen, wenn die Roboter anweisen die Ausführung von kognitiven Aufgaben, das heißt, Sie erheben das, was bisher als ausschließlich der einzigartigen Fähigkeit des Menschen selbst. Selbst Autos ersetzen können Taxi-Chauffeure; selbstverwaltete Flugzeuge erfordern keine Piloten.

Anstatt die medizinische Hilfe in Punkten der Notaufnahme, ausgefüllten immer müde Personal und ärzten, die Patienten in der Lage, Untersuchungen und Diagnosen zu erkennen und mit Hilfe der Expertensysteme mit sofortigem Zugriff auf alle medizinischen wissen. Chirurgische Operationen durchgeführt werden неподверженными Robotern zu Müdigkeit, perfekt mit «наметанной Hand».

Rechtsberatung möglich sein, sich aus der umfassenden Rechtsrahmens. Für die Beratung für Investitionen werden an den Experten-Systemen der Markt-Prognose. Vielleicht einmal die ganze menschliche Arbeit wird durch Maschinen ausgeführt werden. Auch meine Arbeit kann man es schneller durch den Einsatz einer großen Zahl von Maschinen, unermüdlich erforscht, wie man die Maschinen noch klüger.

In der Realität unserer heutigen Gesellschaft die Automatisierung schon macht die Menschen Ihren Arbeitsplatz verlassen, indem Sie den reichen Besitzer einer solchen automatisierten Maschinen noch reicher und die anderen ärmer. Aber es ist nicht das wissenschaftliche Problem. Das politische und социоэкономическая Problem, das muss die Gesellschaft selbst entscheiden.

Meine Untersuchungen nicht verändern, aber meine politische Stiftungen, zusammen mit Menschlichkeit, vielleicht führen zu den Umständen, unter denen die KI in der Lage, sich in außergewöhnlich nützliche Funktion, statt um eine Lücke zwischen dem Prozentsatz der High-Society und dem Rest der uns noch breiter.

die Angst vor dem katastrophalen Szenario

Wir haben uns auf die Letzte Angst, навязанному uns verrückt HAL 9000, Terminator und anderen schurkischen сверхинтеллектом. Wenn die KI wird sich weiter entwickeln, solange nicht die menschliche Intelligenz übertreffen, wird die künstliche сверхинтеллектуальная System (oder mehrere Systeme) betrachtet den Menschen als nutzlosen Material? Wie können wir rechtfertigen Ihre Existenz im Angesicht сверхинтеллекта, das fähig ist, zu tun und zu schaffen, was nicht fähig ist, kein Mensch? Ob wir zu vermeiden sein Schicksal verschwimmt das Gesicht der Erde die Maschinen, die wir dazu beigetragen haben?

Deshalb die wichtigste Frage in einem solchen Fall lauten würde: warum wir brauchen künstliche сверхинтеллекту?

Da war diese Situation, hätte ich wahrscheinlich gesagt, dass ich ein guter Mann, der auch einen Beitrag zur Schaffung dieser сверхинтеллекта, vor dem bin jetzt. Ich würde rief zu seinem Mitgefühl und Empathie, um сверхинтеллект mich verlassen, solche сострадающего und сопереживающего, am Leben. Ich würde auch fügte hinzu, dass allein die Vielfalt der Arten hat einen Wert und das Universum ist so groß, dass die Existenz der menschlichen Spezies in Ihr eigentlich sehr unbedeutend ist.

Aber ich kann nicht sprechen für alle Menschen, also für uns alle wird mir schwierig, ein überzeugendes argument. Nur, wenn ich auf uns alle, ich sehe wirklich, dass wir viele Dinge gemacht haben und falsch machen. In der Welt herrscht Hass für einander. Wir gehen Krieg auf einander. Wir ungerecht verteilen das Essen, das wissen und die medizinische Versorgung. Wir verschmutzen den Planeten. In dieser Welt gibt es natürlich viele gute Dinge, aber, wenn einen Blick auf all die schlechten Dinge, die wir uns geschaffen haben und weiterhin schaffen, wird sehr schwierig, das argument zur Unterstützung unserer weiteren Existenz.

Zum Glück haben wir noch nicht haben, um Ihre Existenz zu rechtfertigen. Wir haben noch Zeit. Von 50 bis 250 Jahren, je nachdem, wie schnell wird sich die künstliche Intelligenz. Wir, als Spezies, haben die Möglichkeit, alle zusammen und finden eine gute Antwort auf die Frage,warum сверхинтеллект nicht löschen soll uns aus dem Gesicht des Planeten.

Es Wird sehr schwierig sein, dieses Problem zu lösen. Denn zu sagen, dass wir die Vielfalt und Ethno-kulturelle Unterschiede, und tun dies – es ist völlig verschiedene Dinge. Wie zu sagen, was wir wollen, den Planeten zu retten, und erfolgreich damit umzugehen.

Wir Alle, ob jeder einzelne oder die Gesellschaft als ganzes, müssen sich zu einem katastrophalen Szenario mit der Zeit, um bereit sein zu zeigen und zu beweisen, warum unsere Schöpfung müssen uns erlauben, weiter zu existieren. Oder können wir einfach weiter blind glauben, dass eine solche Entwicklung nicht möglich, und einfach aufhören zu reden.

Aber egal, was körperliche Gefahr für uns darstellen kann сверхинтеллект, wir sollten nicht vergessen, dass eine Gefahr darstellen und es wird immer noch politische, sondern auch wirtschaftliche. Wenn wir nicht finden Möglichkeiten verbessern unseren Lebensstandard, das letztlich nur подпитаем Kapitalismus als Arbeiter künstlichen Intelligenz, die dazu dienen, den nur eine Handvoll Favoriten, die Produktion mit allen Mitteln.

das Original dieses Artikels wurde auf der Website veröffentlicht theconversation.com Арендом Хинтзе (Arend Hintze), Dozentin des Lehrstuhls für integrative Biologie, Computer Science and Engineering der University of Michigan