Niebezpieczna człowieczeństwo: po co nam rozsądny sztuczna inteligencja?

Kiedy Norbert Wiener, ojciec cybernetyki, pisał swoją książkę "Ludzkie korzystanie z istot ludzkich" w 1950 roku, próżniowe nadal były głównymi elektronicznymi budulcem, i w pracy, w rzeczywistości, było tylko kilka komputerów. Jednak zdał sobie sprawę przyszłość, którą obserwujemy obecnie, z niespotykaną dokładnością, ошибившись tylko w drobnych szczegółach.

Przed jakiegokolwiek innego filozofa sztucznej inteligencji, zdał sobie sprawę, że AI nie będzie po prostu naśladować i wymieniać — istotom ludzkim w wielu rodzajach działalności intelektualnej, ale i zmienia ludzi w tym procesie. "Jesteśmy tylko wir w rzece wiecznie płynącej wody", pisał. "Nie jest czymś, co po prostu żyje, jesteśmy modele, które uwieczniają się".

Na Przykład, gdy pojawia się wiele atrakcyjnych możliwości, jesteśmy gotowi płacić i przyjmować niewielkie koszty prowadzenia działalności, aby uzyskać dostęp do nowych funkcji. I bardzo szybko stajemy się uzależnieni od nowych narzędzi, tracimy zdolność istnieć bez nich. Opcje stają się wiążące.

Jest To bardzo stara historia ewolucji, i wiele rozdziałów z niej nam dobrze znane. Większość ssaków może syntetyzować własne witamina C, ale naczelne, które żywią się głównie owocami, stracił tę wbudowaną możliwość. Самоповторяющиеся szablony, które nazywamy ludźmi, teraz zależy od szat, przetworzonej żywności, witamin, strzykawki, kart kredytowych, smartfonów i internetu. I jutro, jeśli nie dziś, od sztucznej inteligencji.

Wiener przewidział kilka problemów z tym stanem rzeczy, które i inne wczesne optymistami AI w dużej mierze pomijane. Realne zagrożenie, jego zdaniem, było:

…w tym, że takie maszyny, choć i bezradni same w sobie, mogą być człowiekiem lub zablokować istot ludzkich, aby zwiększyć ich kontroli nad resztą rasy, albo przywódcy polityczni mogą próbować przejąć kontrolę nad swoją ludność, wykorzystując nie same maszyny, a polityczne metody, столье samo wąskie i niewrażliwe na człowieka, jak gdyby były one wymyślone mechanicznie.

Oczywiście, te zagrożenia są teraz bardzo istotne.

W MEDIACH, na przykład, innowacje w cyfrowym audio i wideo pozwalają nam zapłacić niewielką cenę (w oczach audiofilów i miłośników kina) za odstąpienie od analogowych formatów, a w zamian otrzymywać bardzo prosty — zbyt prosty — sposób odtwarzania nagrań prawie bez ograniczeń.

Ale jest wielka ukryta cena. Ministerstwo prawdy Orwella stała się realną możliwością. Metody AI tworzenia praktycznie неотличимых fałszywych "rekordów" robią przestarzałe narzędzia, które używaliśmy do dochodzenia ostatnich 150 lat.

Pozostaje Nam po prostu zrezygnować z krótkiej epoki dowodów fotograficznych i wrócić w ten dawny świat, w którym pamięć człowieka i zaufanie były złotym standardem. Czy możemy opracować nowe metody ataku i obrony w walce o prawdę. Jednym z wzruszających przykładów ostatniego czasu stał się fakt, że zniszczyć reputację znacznie tańsze, niż tę samą reputację zdobyć i bronić. Wiener widziałem to zjawisko bardzo szeroko: "W dłuższej perspektywie nie będzie różnicy między uzbrojeniem siebie i broni wroga". Epoka informacji stała się również epoką dezinformacji.

Co możemy zrobić? Klucz w tym samym obserwacji Wiener o tym, że "te maszyny" "bezradni same w sobie". Tworzymy narzędzia, a nie kolegów i realne zagrożenie polega na tym, że nie widzimy różnicy.

Sztuczna inteligencja w swoich obecnych formach atakuje na ludzkim intelekcie. Jest to dość bezceremonialnie chwyta wszystko, co stworzyli ludzie stwórcy, i pobiera formy — w tym nasze najskrytsze przyzwyczajenia. Maszyny te nie mają celów i strategii, nie są zdolne do самокритике i innowacji, są tylko studiują nasze bazy danych, nie mając własnych myśli i celów.

Są, jak mówi Wiener, bezradni, nie w tym sensie, że są odziani w łańcuchy lub obezwładnieni, nie, oni w ogóle nie są agentami — u nich nie ma możliwości "działania przyczyn", jak to ujął bym Kant.

W dłuższej perspektywie "silne AI", lub ogólny sztuczna inteligencja, jest możliwy, ale w zasadzie niedopuszczalne. Jeszcze bardziej ograniczony AI, który jest możliwy w praktyce dzisiaj, nie będzie złem. Ale to niesie zagrożenie — częściowo dlatego, że można go błędnie przyjąć za silny AI.

Jak silna sztuczna inteligencja dzisiaj?

Różnica między dzisiejszymi systemami i naukowo-fantastycznych systemami, наводняющими popularne wyobraźnię, jest wciąż ogromny, choć wiele osób, zarówno amatorzy, jak i profesjonaliści, skłonni go lekceważyć. Przyjrzyjmy Watson z IBM, który może stać się godnym szacunku w naszych czasach.

Ten superkomputer jest wynikiem bardzo dużą skalę procesu R&D (badań i rozwoju), w którym było wykorzystać wiele ludzi i pracy projektu inteligencji w ciągu wielu wieków, i wykorzystuje tysiące razy więcej energii, niż mózg człowieka. Jego zwycięstwo w Jeopardy! był prawdziwym triumfem, który stał się możliwy dzięki формульным ograniczenia zasad Jeopardy!, ale aby mógł wziąć udział, nawet te zasady musiał zmienić. Trochę musiałem zrezygnować z uniwersalności i dodać ludzkości, aby udało się show.

Watson — zła firma, pomimo reklamy wprowadzającej w błąd od IBM, która obiecuje konwersacyjne zdolności AI na обем poziomie, a transformacja Watson w wiarygodne wieloaspektowy agenta byłoby zbliżona doprzekształcenie kalkulatora w Watson. Watson może być dobrym obliczeniowych etui do takiego agenta, ale raczej мозжечком lub миндалиной, a nie rozumem — w najlepszym przypadku, zadania specjalne, spełniającą rolę wsparcia, ale i nie blisko, system do planowania i formułowania celów w zależności od uzyskanego mówionego doświadczenia.

Tak, a dlaczego by nam się chciało utworzyć myślenia i kreatywnego agenta z Watson? Możliwe, genialny pomysł Turinga — słynny test Turinga — trzyma nas w pułapkę: mamy obsesję na punkcie tworzenia przynajmniej iluzji rzeczywistego człowieka, siedzącego przed ekranem, z pominięciem "złowrogi dolinę".

Niebezpieczeństwo w tym, że od czasu, jak Turing przedstawił swoje zadanie — która była, przede wszystkim, zadaniem oszukać sędziów — twórcy AI próbowali wykonać ją za pomocą zabawnych гуманоидных lalek, "kreskówek" wersje, które oczaruje i обезоружат niewtajemniczonych. ELIZA Józefa Вейзенбаума, pierwszy чатбот, była przykładem tworzenia takiej iluzji, a przy tym bardzo prostym algorytmem, który mógł się przekonać ludzi, że zachowują intymne i szczere rozmowy z innymi ludźmi.

Go zaniepokoiła łatwość, z jaką ludzie chcą w to wierzyć. A jeśli nie, to i sobie sprawę z corocznych konkursów na przejście ograniczony testu Turinga za nagrodę Лебнера, to to, że nawet najbardziej inteligentni ludzie, którzy nie są biegłe w programowaniu komputerowym, łatwo toczą się na te najprostsze sztuczki.

Stosunek ludzi w dziedzinie AI do takich metod różni się od potępienia do promocji i konsensus polega na tym, że wszystkie te sztuczki nie są szczególnie głębokie, ale mogą być pomocne. Zmiany w zakresie, który byłby bardzo przydatny, będzie szczere uznanie, że wymalowane lalki androidy — to fałszywe reklamy, które warto potępiać, a nie zachęcać.

Jak to osiągnąć? Gdy tylko zrozumiemy, że ludzie zaczynają podejmować decyzje o życiu i śmierci, zgodnie z "radą" systemów sztucznej inteligencji, wewnętrzne operacje, których praktycznie niezrozumiały, zobaczymy dobry powód, dla tych, którzy wzywa ludzi zaufać takich systemów, zacząć opierać się na normy moralności i prawa.

System sztucznej inteligencji — bardzo potężne narzędzia. Tak potężne, że nawet u ekspertów jest to dobry powód, by nie ufać własnym orzeczeń, gdy są "wyroki", przedstawiający tymi narzędziami. Ale jeśli ci użytkownicy narzędzi zamierzają skorzystać, finansową lub inną, od popularyzacji tych narzędzi, muszą upewnić się, że wiedzą, jak to zrobić, z całą dozą odpowiedzialności, maksymalną kontrolą i uzasadnieniem.

Licencje i zatwierdzenia działań operatorów takich systemów — dokładnie tak samo, jak my лицензируем farmaceutów, operatorów dźwigów i innych specjalistów, błąd i błędne wyroki, które mogą mieć poważne konsekwencje — może, przy wsparciu firm ubezpieczeniowych i innych organizacji, zobowiązać twórców systemów AI iść okrężną drogą, szukając słabości i wady swoich produktów, a także szkolić tych, którzy będą z nimi pracować.

Można wyobrazić sobie swego rodzaju odwrócony test Turinga, w którym przedmiotem oceny będzie sędzia; dopóki nie znajdzie słabości, naruszenie granic, luki w systemie, licencji nie dostanie. W celu uzyskania certyfikatu takiemu sędziemu wymaga poważnej nauki. Dążenie przypisać obiektowi ludzką zdolność do myślenia, jak to zwykle robimy, spotykając się z doskonałym agentem, bardzo, bardzo silne.

W rzeczywistości, zdolność do przeciwstawiania się woli widzieć w czymś очеловеченном człowieka — dziwna rzecz. Wielu ludzi znaleźć rozwinięcie takiego talentu wątpliwe, bo nawet najbardziej pragmatyczne użytkownicy systemu okresowo odnoszą się do swoich narzędzi "przyjazne".

Niezależnie od tego, jak starannie projektanci sztucznej inteligencji będą eliminować fałszywe "ludzkie" nutki w swoich produktach, musimy spodziewać się rozkwitu skrótów, objazdów i dopuszczalnych zniekształceń rzeczywistego "zrozumienia", jak i systemów, jak i ich operatorów. Dokładnie tak samo, jak w telewizji reklamują leki z długiej listy skutków ubocznych lub alkohol, dostarczając film dużą ilością drobnego druku z wszystkich przewidzianych prawem, ostrzeżeniami, tak samo i twórcy sztucznej inteligencji będą przestrzegać prawa, ale się doskonalić w ostrzeżeniach.

po Co nam sztuczna inteligencja?

Nie potrzebujemy sztuczne świadome agenci. Istnieje wiele naturalnych świadomych agentów, których wystarczy, aby wykonywać wszelkie zadania, przeznaczone dla specjalistów i uprzywilejowanych osób. potrzebujemy inteligentne narzędzia. Narzędzia nie mają prawa i nie mogą mieć uczuć, które będzie można dotknąć lub którymi będzie można "narzucać".

Jednym z powodów nie robić sztucznych świadomych agentów polega na tym, że choć są i mogą stać się autonomicznymi (i w zasadzie mogą być takie same autonomiczne, самоулучшающимися lub самосозидательными, jak każdy człowiek), nie warto — bez specjalnego zezwolenia — dzielić się z naszymi naturalnymi świadomymi agentami naszą usterkę lub nasz śmiertelność.

Daniel Деннетт, profesor filozofii z Uniwersytetu Tufts, pewnego dnia postawił przed uczniami zadanie na seminarium w sztucznym agentów i autonomii: daj mi dane techniczne robota, który będzie mógł podpisać kontrakt z tobą — nie surogata, którego właścicielem jest inna osoba, a samego w sobie. To nie jest kwestia zrozumienia przyczyn lub manipulowania piórem na papierze, a raczej chwyty i zasłużonego posiadania prawnej i moralnejodpowiedzialnością. Małe dzieci nie mogą podpisywać takich umów, jak i osoby niepełnosprawne, status prawny których zobowiązuje im być pod opieką i nakłada odpowiedzialność na opiekunów.

Problem robotów, które mogą chcieć uzyskać taki wzniosły stan, w tym, co, jak i Superman, są zbyt wrażliwe, aby robić takie wypowiedzi. Jeśli odmówią, że będzie? Jaka będzie kara za złamanie obietnicy? Ich zamkną w klatce lub zbadają? Więzienie dla sztucznej inteligencji nie wyniesie niedogodności, jeśli tylko najpierw nie załadujemy pragnienie wolności, która nie może być zignorowana lub wyłączona przez AI. Demontaż AI nie zabiją informacje, które są przechowywane na dysku twardym i w oprogramowaniu.

Łatwy cyfrowego zapisu i transmisji danych — przełom, który pozwolił oprogramowania i danych zobacz, w rzeczywistości, nieśmiertelność — sprawia, że roboty nie do powstrzymania. Jeśli to nie wydaje się oczywiste, pomyśl o tym, jak wyglądałoby moralność ludzi, gdybyśmy mogli zrobić "tworzenie kopii zapasowych" ludzi co tydzień. Skok z mostu bez gumki w niedzielę po kolacji tworzenia kopii zapasowych może być lekkomyślna decyzja, a następnie będzie można obejrzeć nagranie jego przedwczesnej śmierci później.

Dlatego tworzymy nie świadomych — chcielibyśmy tworzyć — гуманоидных agentów, a raczej zupełnie nowy rodzaj stworzeń, niektóre wyrocznie, bez świadomości, bez strachu przed śmiercią, bez rozproszenia na miłość i nienawiść, bez osobowości: lustra prawdy, które prawie na pewno będą zainfekowane ludzkiej kłamstwo.

Ludzkie korzystanie z istot ludzkich wkrótce się zmieni — po raz kolejny — na zawsze, ale jeśli weźmiemy na siebie odpowiedzialność za naszą ścieżkę ewolucji, możemy uniknąć niepotrzebnych zagrożeń.

Nie zgadzasz się? Opowiedz nam o swoim zdaniu .