Jak stworzyć robota, który będzie chciał zmienić świat?

Komputerowy naukowiec Christoph Солдж próbuje wyeliminować potrzebę zasadach, które rządzą zachowaniem robotów. Jego strategia — dać im cel: uczynić nas bardziej potężnymi. Christoph działa w Game Innovation Lab na uniwersytecie nowojorskim. Sasha Masłowa wywiady u Солджа dla Quanta Magazine, z którego dowiadujemy się, że być może wcale nie warto próbować utrzymać niepowstrzymany strumień technologicznej osobliwości.

Słynne trzy prawa robotyki Isaaca Азимова — ograniczenia zachowań androidy i automatów, niezbędne do zapewnienia bezpieczeństwa ludzkości — również były niekompletne. Przepisy te najpierw pojawiły się w opowiadaniu Азимова w 1942 roku, a następnie w klasycznych pracach jak "Ja, robot" i brzmią mniej więcej tak:

1. Robot nie może skrzywdzić człowieka lub jego zaniechania dopuścić, aby człowiek był na szkody.
2. Robot musi słuchać rozkazów, отдаваемым ludźmi, jeśli takie nie są sprzeczne z Pierwszym Prawem.
3. Robot musi chronić swoje istnienie, jeśli nie koliduje to z Pierwszym lub Drugim Prawem.

Oczywiście, w tych przepisach można znaleźć wiele sprzeczności i luk (niż w rzeczywistości, cieszył się i sam Asimov). W naszym obecnym wieku zaawansowanego oprogramowania z maszyny szkoleniem i offline робототехникой, określanie i wdrażanie kolei etyki sztucznej inteligencji stało się palącym problemem dla takich instytucji jak Instytut badań maszynowego inteligencji i OpenAI.

Christoph Солдж podjął inne podejście. Zamiast "góra-dół" narzucać filozoficzne definicje tego, jak powinny lub nie powinny zachowywać się sztuczne agenci, Солдж i jego kolega Daniel Polany badają sposób "bottom-up", lub "że robot powinien zrobić w pierwszej kolejności", jak napisał w swoim artykule "Rozszerzenie praw jak wymiana trzech praw robotyki". "Rozszerzenie praw", koncepcja, urodzona na styku cybernetyki i psychologii, opisuje wewnętrzną motywację agenta do równoczesnego ruchu oporu i pracy w warunkach środowiska. "Jak organizm, on chce przetrwać. On chce zostawić ślad w świecie", wyjaśnia Солдж. Odkurzacz Roomba, zaprogramowany na wyszukiwanie stacji ładowania po rozładowaniu baterii, — to rudimentarny przykład "rozszerzonych praw": aby nadal funkcjonować w świecie, musi dostać zastrzyk i dalszego ich istnienia, czyli przetrwać.

Rozszerzenie uprawnień może zabrzmieć jak przepis dla uzyskania tego samego wyniku, którego boją się zwolennicy bezpiecznego sztucznej inteligencji takiego Nicka Бострома: potężnego systemu autonomicznego, zatroskanej tylko zaspokojenie własnych interesów i сходящей z umysłu w procesie. Ale Солдж, który roboczo-maszynowe interakcje społeczne, zastanawia się: co będzie, jeśli agent z rozszerzonymi uprawnieniami "oraz zajmować się będzie rozszerzeniem praw innego? Trzeba, aby robot nie chciałem pozostać w dobrym stanie — trzeba, aby on także chciał utrzymać swego ludzkiego partnera".

Солдж i Polany sobie sprawę, że teoria informacji oferuje sposób, aby zrealizować to wzajemne rozszerzenie matematycznego bazy, który weźmie na warsztat nie-философствующий sztuczne agent. "Jedną z wad trzy prawa robotyki jest to, że są one oparte na języku, a język w dużej mierze dwuznaczny", mówi Солдж. "Staramy się znaleźć coś, co rzeczywiście będzie można spełnić".

Niektóre technolodzy uważają, że AI jest duża, nawet katastrofalna zagrożenie życia ludzi. A ty?

Powstrzymam się. To jest naprawdę uważam, że obecnie istnieje strach przed robotami i rosnącym wpływem AI. Ale myślę, że w krótkim okresie prawdopodobnie będzie bardziej związane z ewentualną zmianą miejsca pracy, procesu podejmowania decyzji, utratą demokracji, utratą prywatności. Nie wiem, na ile prawdopodobne jest pojawienie się obezwładniające AI w najbliższym czasie. Ale nawet jeśli AI będzie kontrolować system opieki zdrowotnej i wypisuje recepty, powinniśmy pomyśleć o sprawach etycznych, pojawiających się w trakcie jego pracy.

w Jaki sposób koncepcja rozszerzenia praw pomoże nam poradzić sobie z tymi problemami?

Myślę, że pomysł rozszerzenia praw wypełnia niszę. Nie da agenta pozwolić mu umrzeć, ale jak tylko będziesz w stanie utrzymać się na tym progu, będzie ona wspierać zamiar stworzyć dodatkowe możliwości wyrażenia człowieka i wpływu na świat. W jednej z książek Азимова roboty po prostu w końcu umieścić wszystkich ludzi w bezpieczne pojemniki. To byłoby niepożądane. Jeżeli nasza zdolność wpływania na świat, będzie stale się poprawia, myślę, że to będzie o wiele bardziej interesujące, aby osiągnąć cel.

sprawdzali swoje pomysły wirtualnych agentów w видеоигровой środowisku. Co się stało?

Agent, motywują własnymi rozszerzonymi uprawnieniami, obłądził od pocisku i nie spadnie w dół, w ogóle uniknie każdą sytuację, która może doprowadzić go do utraty mobilności, śmierci lub uszkodzenia w taki sposób, aby zmniejszyć jego операциональность. On po prostu będzie się trzymać.

W połączeniu z graczem-człowiekiem, który jest również wyposażony w rozszerzonymi uprawnieniami, zobaczyliśmy, że wirtualny robot będzie utrzymywać pewną odległość, aby nie utrudniać ruchu człowieka. On nie zablokuje, nie będzie na przejściu, aby nie można było przejść. On będzie się trzymać możliwie blisko ciebie, aby być w stanie pomóc. To prowadzi do zachowań, w którym może iinicjatywa, i do naśladowania dla innych.

Na przykład, stworzyliśmy scenariusz, w którym mieliśmy laserowa bariera, jest zagrożeniem dla człowieka, ale bezpieczny dla robota. Jeśli człowiek w tej grze zbliża się do лазерам, robot pojawia się więcej motywacji do blokady lasera. Bodziec nasila się, gdy człowiek staje przed barierą, jakby chcąc go przekroczyć. I robot faktycznie blokuje laser, stając przed człowiekiem.

Wykazywały czy te agenci jakiekolwiek niezamierzone zachowanie, podobnego do tego, co wynika z trzech przepisów w książce Азимова?

Najpierw zachowanie było dobre. Na przykład, wirtualny robot połowu przeciwników, którzy próbowali cię zabić. Od czasu do czasu mógł skoczyć pod kulkę, jeśli to był jedyny sposób, żeby cię ocalić. Ale to, co nas szczególnie zdziwiło, od samego początku, że on również bardzo bał się ludzi.

Powodem tego jest związana z jego "krótkowzrocznym" modelem: w istocie, analizuje, jak sekwencji określonych czynności w dwa-trzy kroki mogą mieć wpływ na świat, jak dla ciebie, jak i dla niego. Dlatego pierwszym krokiem mamy zaprogramowane, że gracz działa losowo. Ale w praktyce to przełożyło się na to, że agent odnosił się do człowieka jako do swego rodzaju szaleńcowi, który mógł w każdej chwili czasu, na przykład strzelać do agenta. Dlatego agent musiał bardzo ostrożnie wybierać pozycje, w których człowiek nie mógł go zabić.

Trzeba było to naprawić, więc wzorowany tzw. hipotezę o zaufaniu. W rzeczywistości, towarzysz-agent działa, wychodząc z założenia, że człowiek będzie wybierać tylko te działania, które nie będą ograniczać rozszerzone prawa samego agenta — to chyba bardziej nadaje się dla towarzysza model.

Zauważyliśmy także, że jeśli w grze było, powiedzmy, 10 punktów zdrowia, towarzysz nie jest szczególnie obawiałem się, jeśli tracili osiem lub dziewięć z tych punktów — mógł nawet strzelić do ciebie raz, po prostu żart. I wtedy zdaliśmy sobie sprawę, że istnieje przepaść między światem, w którym żyjemy, i modelem w grze komputerowej. Jak tylko sztuczne ograniczenia zdolności, spowodowane utratą zdrowia, problem zniknął. Ją również można było rozwiązać, tworząc nie taką близорукую model, który mógłby obliczyć działania na parę kroków w przyszłość. Gdyby agent mógł spojrzeć dalej w przyszłość, zobaczył, że mieć więcej punktów zdrowia może być przydatne dla przyszłych wydarzeń.

Biorąc pod uwagę, że zmiana ilości punktów zdrowia w żaden sposób na wpływ na moich rozszerzonych praw, agent postanawia: "Albo ja do niego, nie strzelam — co za różnica?". I czasem strzela. Co, oczywiście, jest problemem. Nie chcę przypadkowych strzałów na graczy. Dodaliśmy poprawkę, aby wirtualny robot nieco bardziej martwi się o swoim stanie, niż o swoje.

Jak robisz te koncepcje dokładne?

Jeśli weźmiemy pod uwagę agentów systemu zarządzania, można je rozłożyć na elementy informacyjne: w świecie coś zdarzają się i tak czy inaczej cię dotyczy. Mówimy o informacji, nie jak o rzeczach, które można dostrzec, jak o oddziaływaniach wszelkiego rodzaju — to może być substancja, coś co przecieka między światem i wami. Może być temperatura i składniki odżywcze w organizmie. Każda rzecz, która przekracza granicę między światem i agentem, niesie w sobie informacji. Podobnie agent może mieć wpływ na świat zewnętrzny na wiele różnych sposobów, również biorąc w nim informacji.

Można traktować ten wątek jako przepustowość kanału, to pojęcie z teorii informacji. Mogą być szerokie uprawnienia, rozszerzone uprawnienia, jeżeli jesteś w stanie podejmować różne działania, które prowadzą do różnych wyników. Jeśli coś pójdzie nie tak, można utracić swoich uprawnień, bo utrata zdolności odzwierciedlał wymierne zmniejszenie przepustowości kanału pomiędzy tobą a otoczeniem. Jest to podstawowa idea.

Ile agent powinien wiedzieć, aby jego rozszerzone uprawnienia działali w pełni?

Zaawansowane prawa mają przewagę w tym, że można je stosować nawet wtedy, gdy nie posiadają pełną świadomością. Agent naprawdę potrzebuje w modelu tym, jak jego działania wpływają na świat, ale nie musi pełne zrozumienie świata i wszystkich jego subtelności. W przeciwieństwie do niektórych metod, które próbują modelować wszystko w świecie, jak to możliwe, w naszym przypadku, trzeba tylko dowiedzieć się, jak twoje działania wpływają na wasze postrzeganie. Nie trzeba poznawać wszystko o wszystkim; potrzebuje tylko agent, który bada świat. On coś robi i próbuje zrozumieć, jak jego działania wpływają na świat. Model rośnie, a agent coraz lepiej rozumie, dokąd sięgają granice jego władzy.

testowałeś go w wirtualnym środowisku. Dlaczego nie w realnym świecie?

Główną przeszkodą powiększenia tego modelu i tego, aby umieścić ją w prawdziwego robota, jest złożoność obliczania przepustowości kanału agenta i człowieka w takiej bogatej środowisku, jak prawdziwy świat, na długo do przodu. Wszystkim tym procesom jeszcze tylko stać się skuteczne. Jestem optymistycznie nastawiony, ale na razie ten problem pozostaje czysto obliczeniowej. Dlatego możemy sprawdzić działanie systemu w grze komputerowej, w uproszczonej formie.

Wygląda na to, uprawniającej, idealnie, sprawi, że nasze maszyny zaawansowanych narzędzi psami.

Wiem nawet niektórych робототехников, które świadomie modelują zachowanie towarzysza na podstawie psów. Myślę, że jeśli roboty będą traktować nas, jak nasze psy, w tym przyszłościwszyscy możemy się dogadać.