Roboty-zabójcy? Zatrzymaj się, nawet dobre roboty nieprzewidywalne do horroru

Przywódcy ponad setki wiodących światowych firm w dziedzinie sztucznej inteligencji jest bardzo zaniepokojeni rozwojem "robotów-zabójców". W liście otwartym ONZ te liderzy biznesu, w tym Ilona Maska z Tesla i założycieli uwolnienie google DeepMind – ostrzegają, że korzystanie z technologii autonomicznego broni może być podjęta przez terrorystów i деспотами, albo w mniejszym lub większym stopniu narażone na włamanie.

Ale realne zagrożenie poważniej – i to nie tylko w ludzkich wykroczeń, ale i w pomieszczeniach. Badanie złożonych systemów pokazuje, że mogą zachowywać się znacznie bardziej nieprzewidywalne, niż można stwierdzić z sumy poszczególnych działań. Z jednej strony oznacza to, że społeczeństwo ludzkie może zachowywać się zupełnie inaczej, niż można się spodziewać, badając zachowanie jednostek. Z drugiej strony, to odnosi się do technologii. Nawet ekosystemów prostych programów sztucznej inteligencji – które nazywamy tępymi, dobrymi botami – mogą nas zaskoczyć. Nawet poszczególne boty mogą zachowywać się okropnie.

Poszczególne elementy składające się na systemy złożone, takie jak ekonomiczne rynki lub globalną pogodę, mają tendencję do nie komunikować się w prosty sposób liniowy. To sprawia, że systemy te są bardzo trudne do modelowania i zrozumienia. Na przykład, nawet po latach badań klimatu nie można przewidzieć długoterminowe zachowanie pogody. Systemy te są tak wrażliwe na najdrobniejsze zmiany, jak materiał wybuchowy na nich reagują. Bardzo trudno jest poznać dokładny stan takiego systemu w indywidualnym momencie. Wszystko to sprawia, że systemy te wewnętrzne nieprzewidywalne.

Wszystkie te zasady mają zastosowanie do dużych grup ludzi, działającego na swój sposób, czy to ludzkie społeczeństwa lub grupy robotów ze sztuczną inteligencją. Niedawno naukowcy badali jeden z typów złożonego systemu, w którym dobre boty były wykorzystywane do automatycznej edycji artykułów na Wikipedii. Te różne boty są prezentowane, napisane i są używane zaufanych redaktorów Wikipedii, a ich podstawowe oprogramowanie open source i dostępne dla wszystkich. Osobno mają wspólny cel – poprawić encyklopedię. Jednak ich kolektywne zachowanie okazało się zaskakująco nieskuteczne.

W oparciu o prace te boty z Wikipedii leżą dobrze ustalone zasady i konwenanse, ale ponieważ witryna sieci web nie ma centralnego systemu sterowania, nie ma skutecznej koordynacji między ludźmi, zarządzających różnymi botami. W wyniki pojawiły się pary botów, które kilka lat zakończyli edycji siebie i nikt tego nie zauważył. I, oczywiście, ponieważ te boty nie uczą, oni też nie zauważyli.

Te boty przeznaczone do przyspieszenia procesu edycji. Ale małe różnice w konstrukcji robotów lub między osobami, które ich używają, mogą doprowadzić do masowego wydatkach zasobów w trwającej "wojnie o edycja", która byłaby rozwiązana znacznie szybciej za pomocą edytorów.

Naukowcy odkryli również, że boty zachowują się różnie w różnych wersjach językowych Wikipedii. Zasady, wydawałoby się, są praktycznie takie same, cele są identyczne, technologie podobne. Ale w niemieckojęzycznej Wikipedii współpraca botów było o wiele bardziej skuteczne i wydajne, niż na przykład w portugalii. Można to wyjaśnić tylko różnice między redaktorami ludźmi, którzy kierowali tymi botami w różnych środowiskach.

Wykładnicza zamieszanie

Boty Wikipedii nie mają szeroką autonomię i system już nie działa zgodnie z celami poszczególnych botów. Ale Wikimedia Foundation planuje korzystać z AI, które będą dawać więcej autonomii tych botów. I to najprawdopodobniej doprowadzi do jeszcze bardziej nieprzewidywalne zachowanie.

Dobry przykład tego, co może się zdarzyć, demonstrowali boty, utworzone na rozmowy z ludźmi, kiedy zostali zmuszeni do komunikowania się między sobą. Już nie jesteśmy zaskoczeni odpowiedzi osobistych asystentów jak Siri. Ale spraw, aby komunikować się między sobą i szybko zaczną zachowywać się w nieoczekiwany sposób, dyskutować, a nawet obrażać się nawzajem.

Co więcej staje się system i im bardziej samodzielny staje się każdy bot, tym bardziej skomplikowane i nieprzewidywalne będzie przyszłość zachowanie tego systemu. Wikipedia – jest to przykład pracy dużej liczby stosunkowo prostych robotów. Przykład z czat-botami – to przykład stosunkowo niewielkiej liczby złożonych i pomysłowe boty – w obu przypadkach pojawiają się niespodziewane konflikty. Złożoność i, w konsekwencji, nieprzewidywalność rosną wykładniczo w miarę dodawania do systemu osobowości. Dlatego, gdy w przyszłości pojawią się systemy z dużą ilością bardzo skomplikowanych robotów, nieprzewidywalność ich wyjdzie poza granice naszej wyobraźni.

Płonący szaleństwo

Самоуправляемы samochody, na przykład, obiecują dokonać przełom w efektywności i bezpieczeństwa ruchu drogowego. Ale jeszcze nie wiemy, co się stanie, kiedy u nas będzie duża dzika system jest w pełni autonomicznych pojazdów. Mogą zachowywać się w różny sposób, nawet w obrębie małej floty indywidualnych samochodów w kontrolowanym środowisku. I jeszcze bardziej nieprzewidywalne zachowanie może wystąpić, gdy autonomiczne samochody, "przeszkoleni" przez różnych ludzi w różnych miejscach, zaczną wchodzić w interakcje między sobą.

Ludzie mogą dostosować się do nowych zasad i umów się stosunkowo szybko, ale przy tym z trudem przechodzą między systemami.Sztuczną agentów może być jeszcze trudniejsze. Na przykład, jeśli "wyszkolony w Niemczech" samochód pojedzie, na przykład do Włoch, nie wiemy, jak to opanować niepisane kulturalne umowy, których następują wiele innych "wyszkoleni we Włoszech" samochody. Bardzo zwyczajne w rodzaju skrzyżowania skrzyżowania może stać się śmiertelnie ryzykowne, bo po prostu nie wiemy, czy będą maszyny interakcji, tak jak powinno być, albo zaczynają zachowywać się w sposób nieprzewidywalny.

A teraz pomyśl o robotami-zabójcami, które niepokoją Maska i jego kolegów. Jeden robot-zabójca może być bardzo niebezpieczne w niewłaściwych rękach. A system nieprzewidywalnych robotów-morderców? Pomyśl sam.