AI od Google nauczyli być "bardzo agresywne" w sytuacjach stresowych

W zeszłym roku, słynny fizyk teoretyk Stephen Hawking stwierdził, że rozwój sztucznej inteligencji będzie "albo najlepsze, albo najgorsze wydarzenie dla całej ludzkości". Wszyscy oglądaliśmy "Terminatora" i wszyscy dobrze przedstawiamy, w jaki apokaliptyczny piekłem może stać się nasze istnienie, jeśli taka ma samoświadomością AI-system, jak Skynet, pewnego dnia postanawia, że ludzkość już nie potrzebuje. I ostatnie wyniki pracy nowej AI-systemu od firmy DeepMind (należy do Google) tylko po raz kolejny przypominają nam o konieczności być bardzo ostrożnym przy produkcji robotów przyszłości.

W badaniu przeprowadzonym pod koniec ubiegłego roku, AI od DeepMind znalazł i pokazał, niezależnie od tego, co zawarte jest w jego pamięć, a jeszcze pokonał najlepszych na świecie graczy . Oprócz tego, doskonalił swoje umiejętności i имитировании ludzkiego głosu.

W ramach ostatnich badań systemu naukowcy sprawdzali "dążenie" do współpracy. Testy wykazały, gdy AI DeepMind "czuje", że właśnie przegra, to w celu uniknięcia utraty zaczyna wybierać nowe i «bardzo agresywne» strategii. Zespół Google przeprowadziła z AI 40 milionów sesji w prostej grze komputerowej Gathering, gdzie od gracza należało zebrać jak najwięcej odpowiednich owoców. AI DeepMind kierował dwoma "graczami-agentami" (niebieską kostkę i czerwoną kostkę). Inżynierowie Google dali systemie zadanie zorganizować konkurs między «agentami» i zebrać jak najwięcej wirtualnych jabłek (zielone kwadraty), ile się uda.

Od czasu Do czasu, aż "agenci" mogli bez problemów zbierać owoce, dostępne w dużych ilościach, wszystko szło gładko. Ale jak tylko zapas jabłek сокращался, zachowanie "agentów" stawało się "agresywny". Zaczęli aktywniej korzystać z narzędzia (lasera), który pomagał wybić przeciwnika z ekranu gry, a następnie zebrać wszystkie jabłka:

Co ciekawe, za wyrzucenie przeciwnika z pola za pomocą wiązki laserowej żadnej dodatkowej nagrody nie proponowano. Embossed przeciwnik tylko przez jakiś czas jest poza ekranu, podczas gdy bardziej udany przeciwnik będzie miał możliwość bez przeszkód zebrać więcej wirtualnych jabłek.

Gdyby "agenci" nie używali promienie laserowe, to teoretycznie ilość zebranych nimi jabłek byłby taki sam. To w zasadzie i działo się, gdy jako "agentów" użyto bardziej niskopoziomowe i "mniej inteligentne" opcje DeepMind. Bardziej agresywne zachowanie, sabotaż i chciwość zaczęli przejawiać się tylko wtedy, gdy zespół Google stała się korzystać z bardziej złożonych form DeepMind.

Gdy oficery śledczy używali jako "agentów" bardziej proste sieci DeepMind, to między nimi zauważyć obecność "atmosfery bardziej przyjaznego współistnienia na boisku". Jednak, gdy zarządzanie agentami stawała się coraz bardziej skomplikowane formy sieci, AI stawał się bardziej agresywny i zaczął próbować wcześniej wybić przeciwnika z planszy, aby pierwszym szybciej dotrzeć do lwią część łupów z wirtualnych jabłek. Naukowcy Google sugerują, że im mądrzejszy "agent", tym bardziej skuteczne jest w stanie uczyć się, aby dostosować się do warunków środowiska i dostępnych metod, i w końcu przychodzić do użycia najbardziej agresywnej taktyki, aby wygrać.

"Ten model pokazuje, że rezultatem uczenia się i adaptacji do warunków środowiska jest przejawem pewnych aspektów, charakterystycznych zachowaniach", — mówi Joel Z. Лейбо, jeden z badaczy, przeprowadził ten eksperyment.

"Mniej agresywne zachowanie objawia się tylko podczas nauki i przebywania w stosunkowo bezpiecznym środowisku, z mniejszym prawdopodobieństwem skutków po tych lub innych działań. Chciwość, z kolei, zostały ujęte w dążeniu, aby wyprzedzić przeciwnika i samemu zebrać wszystkie jabłka".

Po "zbiorów" DeepMind zaproponowali zagrać w inną grę, o nazwie Wolfpack. Tym razem w niej udział trzy AI-agent: dwa grał rolę wilków, a pozostałe – rola wydobycia. W przeciwieństwie do gry Gathering, nowa gra mocno przyczyniła się do współpracy między wilkami. Po pierwsze, łatwiej jest złapać zdobycz, a po drugie, jeśli oba "wilka" znajdowały się obok jak zdobycz, obaj otrzymali jakąś nagrodę, niezależnie od tego, kto ją złapał.

"Pomysł polega na tym, że wydobycie może być niebezpieczna. Poza tym, może samotny wilk i jest w stanie ją prowadzić, ale istnieje ryzyko jej utraty w wyniku ataku dziełem padlinożerców", — wyjaśnia zespół.

"Ale jeśli oba wilka wbijają wydobycie razem, są w stanie lepiej ją chronić przed dziełem padlinożerców i dzięki temu otrzymują większą nagrodę.

W ogóle z gry Gathering AI DeepMind jasne, że agresja i egoizm są najbardziej skuteczne strategie, aby uzyskać pożądany efekt, w szczególności pobranej środowisku. Z Wolfpack ten sam system zdałam sobie sprawę, że współpraca, w przeciwieństwie do indywidualnych prób, może stać się kluczem do bardziej cenne nagrody w określonych sytuacjach. I choć powyższe testowe środowiska są tylko podstawowych gier komputerowych – najważniejszy przekaz jest zrozumiały już teraz. Weź różne AI, posiadające konkurencyjnymi interesami, w rzeczywistych sytuacjach, umieść w jedną sobotę, i, być może, jeśli ich zadania nie są kompensowane ogólnym celem wynikiemmoże stać się prawdziwa wojna. Zwłaszcza, jeśli człowiek, jako jedno z ogniw w osiągnięciu tego celu, będzie wykluczony.

Jako przykład wystarczy wyobrazić sobie światła, sterowane przez AI, i bezzałogowe samochody, które starają się samodzielnie znaleźć najszybszą trasę. Każdy wykonuje swoje zadania, w celu uzyskania najbardziej bezpiecznego i efektywnego rezultatu dla społeczeństwa.

Pomimo "dziecięcy" lata DeepMind i brak jakiejkolwiek innej krytycznej analizy jego możliwości, wyniki jego badań nakłaniają na następujące myśli: nawet jeśli my je tworzymy, to wcale nie oznacza, że w robotach i AI-systemach będzie w sposób automatyczny założone chęć umieścić nasze ludzkie dobro nad własne. Dlatego my sami musimy "ufundować życzliwość" w naturę maszyn i przewidzieć wszelkie "luki", które mogą pozwolić im dotrzeć do tych najbardziej promieni laserowych.

Jeden z najważniejszych prac grupy inicjatywnej OpenAI, mającej na celu zbadanie kwestii etyki sztucznej inteligencji, jak to padło w 2015 roku w następujący sposób:

"Dzisiejsze AI-systemy mają niesamowite, ale узкоспециализированными możliwości. I najprawdopodobniej jeszcze przez długi czas nie będziemy się ich zatrzymać w swoim rozwoju. Przynajmniej do czasu, aż ich możliwości w rozwiązywaniu praktycznie każdej własności zadania nie będą przekraczać ludzkie. Trudno sobie wyobrazić, jaki poziom korzyści może przynieść AI poziomu człowieczeństwa dla społeczeństwa, tak jak i trudno sobie wyobrazić, jakie obrażenia może spowodować społeczeństwa w халатном stosunku do jego tworzenia i użytkowania".