Czego boi się sam wywoływacz AI w swoim dziele

Jako człowiek zajmujący się badaniami sztucznej inteligencji, i często napotykają się z opinią o tym, że wiele osób boi się AI i tego, że może on rozwijać. Właściwie nic w tym dziwnego, jeśli patrzeć z punktu widzenia historii ludzkości, jednocześnie zwracając uwagę na to, co пичкает nas przemysł rozrywkowy, że ludzie mogą się bać кибернетического powstania, które będzie żyć w nas na izolowanych terenach, a innych zamieni się w "Матрицеподобный" widok ludzkich baterii.

A mimo to, dla mnie, patrząc na wszystkie te ewolucyjne modele komputerowe, które używam w rozwoju AI, trudno myśleć o tym, że moje niewinne, czyste jak łza dziecka tworzenia na ekranie mojego komputera pewnego dnia będą mogli włączyć się w potwory futurystycznej antyutopii. Czy naprawdę można mnie nazwać "niszczyciel światów", jak kiedyś żałował i mówił o sobie Oppenheimer po tym, jak prowadził program stworzenia bomby atomowej?

Być Może, ja bym przyjął taką sławę, a może krytycy mojej pracy jednak rację? Może muszę przestać unikać pytań o to, jakie obawy w odniesieniu do sztucznej inteligencji są u mnie, jak u eksperta w dziedzinie AI?

Strach przed nieprzewidywalnością

Komputer HAL 9000, który stał się marzeniem naukowego science fiction Arthur Charles Clarke ' a i wcielony w życie, reżyserem Stanley Кубриком w jego wstążce "2001: odyseja Kosmiczna", jest doskonałym przykładem systemu, który się zawiesza z powodu nieprzewidzianych okoliczności.

W wielu systemach złożonych – Titanicu, wahadłowcu kosmicznym NASA i Czarnobylskiej elektrowni jądrowej – inżynierowie musieli połączyć ze sobą wiele komponentów. Możliwe, architektom tych systemów było doskonale wiadomo, jak każdy jej element pracuje indywidualnie, ale nie są wystarczająco dobrze rozumieli, jak te wszystkie elementy będą ze sobą współpracować.

Efektem stały się systemy, które nigdy do końca nie rozumieli ich samych twórców, co doprowadziło do znanych skutków. W każdym razie – statek utonął, dwa promu eksplodowały, a prawie cała Europa i część Azji do czynienia z problemem skażenia radioaktywnego – zestaw stosunkowo małych problemów, ale w przypadku których doszło jednocześnie, stworzyliśmy katastrofalny efekt.

Ja doskonale mogę sobie wyobrazić, jak my, twórcy AI, możemy dojść do podobnych rezultatów. Pobieramy najnowsze osiągnięcia i badania w когнивистике (nauka o myśleniu, — ok. red.), przełożyć je w algorytmy komputerowe i dodajemy to wszystko do istniejących systemów. Staramy się opracować AI bez pełnego zrozumienia własnej inteligencji i świadomości.

Takie systemy, jak Watson z IBM lub Alpha od Google, stanowią sztuczne sieci neuronowe, które mają imponujące możliwości obliczeniowej i są w stanie poradzić sobie z naprawdę skomplikowanymi zadaniami. Ale na razie jedyne, do czego to doprowadzi błąd w ich pracy, będzie wynikiem przegranej w grze intelektualnej "Jeopardy!" lub utracone możliwością pokonać kolejnego najlepszego na świecie gracza w planszową grę logiczną Roku.

Te konsekwencje nie noszą światowego charakteru. Właściwie najgorsze, co może się stać z ludźmi w tym przypadku, jak to ktoś przegra pewną sumę pieniędzy na stawkach.

Jednak architektura AI staje się coraz trudniejsze, a komputerowe proces — coraz szybciej. Możliwości AI z czasem będzie tylko wzrastać. A jak już to doprowadzi nas do tego, że zaczniemy liczyć na SI coraz więcej odpowiedzialności, nawet jeśli na rosnące ryzyko nieprzewidzianych okoliczności.

Jesteśmy w pełni świadomi, że "błędy to część ludzkiej natury", więc dla nas będzie to po prostu fizycznie niemożliwe, aby stworzyć prawdziwie bezpieczną całego systemu.

Strach przed niewłaściwym używaniem

Mnie nie bardzo przeszkadza nieprzewidywalność skutków w pracy AI, który rozwijam, wykorzystując do tego podejście tzw. нейроэволюции. Tworzę wirtualne środowiska i заселяю ich cyfrowymi istotami, dając ich "mózg" zespołu rozwiązywania zadań o rosnącym stopniu trudności.

Z czasem skuteczność rozwiązania zadań tymi istotami wzrasta, rozwija. Tych, którzy radzi sobie z zadaniami lepiej, wszystkie wybrane do rozrodu, tworząc na ich bazie nowe pokolenie. Przez wiele pokoleń te cyfrowe tworzenia rozwijają zdolności poznawcze.

Na Przykład, teraz robimy pierwsze kroki w rozwoju maszyn do poziomu wykonywania prostych zadań nawigacyjnych, podejmowania prostych decyzji lub zapamiętywania pary bitów informacji. Ale wkrótce osiągniemy rozwoju maszyn, które mogą wykonywać bardziej skomplikowane zadania i będą mieć o wiele bardziej skuteczne ogólnym poziomem inteligencji. Naszym ostatecznym celem jest stworzenie intelektu ludzkiego poziomu.

W trakcie tej ewolucji postaramy się odkryć i naprawić wszystkie błędy i problemy. Z każdym nowym pokoleniem maszyny będą lepiej radzić sobie z błędami, w porównaniu z poprzednimi. To zwiększy szanse na to, że będziemy mogli określić wszystkie nieprzewidywalne konsekwencje w симуляциях i wyeliminować je, zanim będą mogły być realizowane w rzeczywistym świecie.

Jest Jeszcze jedna możliwość, którą daje ewolucyjny metoda rozwoju, jest przyznać sztucznej inteligencji etyką. Całkiem prawdopodobne, że takie etyczne i moralne cechy człowieka, jak niezawodność i altruizm, są wynikiem naszej ewolucji i czynnikiem ją kontynuować.

Możemy stworzyć sztuczną środę i wyposażyć maszynyumiejętności, które pozwalają im wykazać, życzliwość, uczciwość i empatią. To może stać się jednym ze sposobów, aby upewnić się, że tworzymy bardziej posłusznych sług, niż bezwzględny robotów-zabójców. Tym nie mniej, mimo że нейроэволюция może obniżyć poziom nieprzewidzianych konsekwencji w zachowaniu AI, ona nie może zapobiec niewłaściwemu wykorzystaniu sztucznej inteligencji.

Jako naukowiec, muszę przestrzegać swoich zobowiązań przed prawdą i informować o tym, co odkrył w ramach swoich eksperymentów, niezależnie od tego, podobają mi się ich wyniki lub nie. Moje zadanie polega na tym, aby określić, co mi się podoba, a co nie. Ważne jest tylko to, że mogę manifestować swoją pracę.

Strach przed nieprawidłowymi priorytetami społecznymi

Być naukowcem – nie znaczy utracić człowieczeństwo. Muszę na jakimś poziomie na nowo nabierać więź ze swoimi nadziejami i obawami. Będąc moralnie i politycznie motywowanej osobą, muszę wziąć pod uwagę potencjalne konsekwencje swojej pracy i jej możliwy wpływ na społeczeństwo.

Jak naukowcy i przedstawiciele społeczeństwa, do tej pory nie przyszedł do jasnej idei o tym, co dokładnie chcemy uzyskać od AI i co musi stać się w końcu. Częściowo jest to oczywiście związane z tym, że do tej pory do końca nie rozumiemy jego potencjał. Ale musimy jasno zdać sobie sprawę i zdecydować, co chcemy uzyskać naprawdę zaawansowanego sztucznej inteligencji.

Jeden z największych obszarów, na którą ludzie zwracają uwagę w rozmowie o AI, to zatrudnienie. Roboty już wykonują za nas trudnej pracy fizycznej, na przykład, zbieranie i сваривая między sobą części karoserii samochodowych. Ale kiedyś nadejdzie dzień, gdy roboty pobieramy wykonanie zadań poznawczych, czyli im pobieramy to, co kiedyś było wyłącznie unikalną zdolność do samego człowieka. Autonomiczne samochody będą w stanie zastąpić kierowców taksówek; autonomiczne samoloty nie będą potrzebować w pilotach.

Zamiast otrzymać pomoc medyczną w punktach pomocy w nagłych wypadkach, wypełnionego zawsze zmęczony personel i lekarze, pacjenci będą mogli przeprowadzać badania i dowiedzieć diagnozy za pomocą systemów ekspertowych z natychmiastowym dostępem do wszystkich wiedzy medycznej. Chirurgiczne operacje będą odbywać się będą odporni na zmęczenie robotami, z idealnie "наметанной ręką".

Porady Prawne można uzyskać z kompleksowej bazy prawnej. Za radą ds. inwestycji będziemy zwracać się do ekspertów rynku systemów prognozowania. Być może, pewnego dnia cała ludzka praca będzie wykonywana maszynami. Nawet mojej pracy będzie można zrobić szybciej dzięki zastosowaniu dużej liczby maszyn, niestrudzenie badających, jak zrobić maszyny jeszcze mądrzejszy.

W realiach naszego obecnego społeczeństwa automatyzacja już zmusza ludzi do opuszczenia swoich miejsc pracy, co bogatych właścicieli takich zautomatyzowanych maszyn jeszcze bogatsi, a reszta – jeszcze biedniejsi. Ale to nie jest science problem. To polityczna i социоэкономическая problem, który musi rozwiązać samo społeczeństwo.

Moje badania tego nie zmienią, jednak moje polityczne fundamenty, razem z człowieczeństwem, być może, przyczynią się do okoliczności, w których AI będzie w stanie włączyć się w niezwykle przydatną funkcję, zamiast zrobić przepaść między jednym procentem światowej elity i resztą nami jeszcze szerzej.

Strach przed katastrofalny scenariusz

Jesteśmy w końcu do ostatniego strachu, навязанному nam szalony HAL 9000, Терминатором i innych злодейским сверхинтеллектом. Jeśli AI będzie nadal się rozwijać, dopóki nie przekroczy ludzki intelekt, czy będzie to faux сверхинтеллектуальная system (lub zestaw takich systemów) traktować człowieka jako bezużytecznego materiału? Jak możemy uzasadnić swoje istnienie w obliczu сверхинтеллекта, zdolnego robić i czynić to, że nie będzie w stanie ani jeden człowiek? Czy możemy uniknąć losu jest bolącymi z powierzchni Ziemi samochodami, których jesteśmy i pomogliśmy stworzyć?

Więc najważniejsze pytanie w takich okolicznościach będzie brzmieć: dlaczego będziemy potrzebują sztucznej сверхинтеллекту?

Gdyby taka sytuacja, ja bym pewnie powiedział, że jestem dobrym człowiekiem, który wniósł wkład w tworzenie tego сверхинтеллекта, przed którym teraz jestem. Ja bym wołał do jego współczucia i empatii, aby сверхинтеллект zostawił mnie, tak сострадающего i сопереживающего, w życiu. Ja bym dodał także, że samo w sobie różnorodność gatunków wykazuje wartość i Wszechświat jest tak wielki, że istnienie rodzaju ludzkiego w nim, w rzeczywistości bardzo nieznacznie.

Ale ja nie mogę mówić za całą ludzkość, więc za nas wszystkich będzie mi trudno znaleźć dobry argument. Po prostu, kiedy patrzę na nas wszystkich, ja naprawdę widzę, że dużo zrobiliśmy i robimy źle. W świecie panuje nienawiść do siebie. Idziemy wojną na siebie. Jesteśmy niesprawiedliwie dzielimy jedzenie, wiedzę i pomoc medyczną. Jesteśmy zanieczyszczeń planetę. W tym świecie, oczywiście, istnieje wiele dobrych rzeczy, ale jeśli spojrzeć na wszystkie te złe rzeczy, co stworzyliśmy i nadal robić, będzie bardzo trudne, aby podnieść argument na poparcie naszego dalszego istnienia.

Na szczęście na razie nie muszę uzasadniać swoje istnienie. Mamy jeszcze czas. Od 50 do 250 lat, w zależności od tego, jak szybko będzie się rozwijać sztuczną inteligencję. My, jako gatunek, mamy możliwość zebrać wszystkich razem i znaleźć dobrą odpowiedź na pytanie,dlaczego сверхинтеллект nie będzie musiał zetrzeć nas z powierzchni ziemi.

Będzie bardzo trudno rozwiązać ten problem. Przecież mówić, że wspieramy różnorodność i pracy różnorodność ważne różnice, i robi to – to zupełnie różne rzeczy. Jak mówić o tym, że chcemy uratować naszą planetę, i z powodzeniem sobie z tym poradzić.

Wszyscy, czy to każda osoba lub społeczeństwo, muszą przygotować się do katastrofalnej sytuacji, wykorzystując czas, aby być gotowym pokazać i udowodnić, dlaczego nasze kreacje powinny pozwolić nam dalej istnieć. Albo możemy po prostu kontynuować ślepo wierzyć, że taki rozwój wydarzeń nie jest możliwe, i po prostu przestać prowadzić rozmowy na ten temat.

Jednak niezależnie od tego, jakie zagrożenie może stanowić dla nas сверхинтеллект, nie należy zapominać, że stanowić zagrożenie będzie jeszcze i polityczne, a także gospodarcze. Jeśli nie znajdziemy sposobu, aby zwiększyć nasz poziom życia, to w końcu tylko подпитаем kapitalizm czarnorobociarze sztucznej inteligencji, która będzie służyć tylko garstce wybranych, obdarzonych przez wszystkich środków produkcji.

Oryginał tego artykułu został opublikowany na stronie internetowej theconversation.com Арендом Хинтзе (Arend Hintze), adiunkt zakładu integrative biologia, informatyki i inżynierii Uniwersytetu stanu Michigan