DeepMind i Google: bitwa o kontrolę nad sztuczną inteligencją

Pewnego wieczoru w sierpniu 2010 roku, w sali konferencyjnej na brzegu zatoki San Francisco na scenę wyszedł 34-letni londyńczyk o imieniu Demis Хассабис. Wspinając się na podium наигранной chodu człowieka, który próbuje kontrolować swoje nerwy, zacisnął usta w krótkim uśmiechu i powiedział: "cóż, chciałbym dzisiaj porozmawiać o różnych podejściach do tworzenia…". Zatrzymał się, jakby zdając sobie sprawę, jak głośno mówi o swoich ambicjach. I powiedział to: "AGI".

ОИИ (AGI) oznacza całkowity sztuczna inteligencja, hipotetyczny program komputerowy, który może wykonywać intelektualne tak samo dobrze, jak i osób, lub nawet lepiej. ОИИ będzie w stanie wykonywać poszczególne zadania — jak rozpoznawania ludzi na zdjęcie lub tłumaczenia języków, które obecnie są w stanie wykonywać wiele osobnych sztucznych istot inteligentnych w naszych telefonach i komputerach. Mogą jednocześnie prowadzić rozmowę, grać w szachy i mówić po francusku. Oni będą w stanie zrozumieć w pismach z fizyki, pisać powieści, opracowywać strategie inwestycyjne i utrzymania swobodną rozmowę z nieznajomymi. Będą oni czuwać nad reakcjami jądrowymi, zarządzanie sieciami dostaw energii i transportu przepływem, i bez wysiłku osiągnąć sukces we wszystkich innych. ОИИ sprawi, że najbardziej zaawansowane AI dziś jak kalkulatory kieszonkowe.

Tylko intelekt, stanie obecnie wykonywać wszystkie te zadania, należy do człowieka. Ale ludzki umysł jest ograniczony do czaszki, w której znajduje się mózg. Jego moc jest ograniczona znikomą ilością energii, którą może zapewnić organizm. Ponieważ ОИИ będzie działać na komputerach, to nie będzie cierpieć z powodu tych ograniczeń. Jego inteligencja będzie ograniczona tylko ilością dostępnych procesorów. ОИИ może rozpocząć monitorowania reakcji jądrowych. Ale dość szybko znajdzie nowych źródeł energii, trawienie więcej pracy z fizyki na sekundę, niż człowiek jest w stanie za tysiąc lat. Inteligencja ludzkiego poziomu, заручившийся szybkością i bezpieczeństwem komputerów, uwolni nas od problemów. Хассабис powiedział brytyjskiej gazecie Observer, że oczekuje od ОИИ rozwiązania, wśród innych dyscyplin, takich problemów, jak "rak, zmiana klimatu, energia, genomics, makroekonomia i systemów finansowych".

Konferencja, na której występował Хассабис, nazywała Singularity Summit. Osobliwość — pierwsza część nazwy odnosi się do najbardziej prawdopodobnego skutek pojawienia się ОИИ, zdaniem futurologów. Ponieważ ОИИ będzie przetwarzać informacje z dużą prędkością, bardzo szybko stanie się bardzo mądry. Szybkie cykle samodoskonalenia doprowadzą do wybuchu maszynowego inteligencji, w wyniku czego ludzie będą wąchać кремниевую kurz. Ponieważ jest to przyszłość opiera się wyłącznie na niesprawdzonych założeniach, niemal religijnie sugerują, że osobliwość okaże się albo utopię, albo piekło.

Sądząc po nazwach występów, uczestnicy konferencji więcej wierzyli w pierwszy wynik: "Umysł i jak go budować", "AI przeciw starzeniu", "Zastępując nasze ciała", "Modyfikując granicę między życiem i śmiercią". Chodzi Хассабиса, wręcz przeciwnie, wydawało się nudne: "Systemowy нейронаучный podejście do tworzenia ОИИ".

Хассабис szedł między podium i ekranem, mówiąc tupot. Był ubrany w bordowy sweter i białą koszulę na guziki, jak uczniak. Jego niewielki wzrost, wydawało się, że tylko podkreślał jego inteligencja. Do tej pory, wyjaśnił Хассабис, naukowcy podchodzili do ОИИ z dwóch stron. Jedną z metod, znany jako symbol AI, próbował opisać i zaprogramować wszystkie zasady potrzebne do systemu, który mógłby myśleć jak człowiek. Podejście to był popularny w latach 1980-tych i 1990-tych, ale nie dał pożądanych rezultatów. Хассабис uważał, że mentalna architektura mózgu jest zbyt cienka, aby opisać ją w taki sposób.

Inne podejście zgromadził naukowców, którzy próbują odtworzyć fizyczne móżdżkowe sieci w formie cyfrowej. Miało to pewien sens. W końcu mózg to loży ludzkiego intelektu. Ale te oficery śledczy także poruszały się złą drogą, powiedział Хассабис. Ich zadaniem była zbliżona do stworzenia mapy wszystkich gwiazd we Wszechświecie. Jeśli głębiej, koncentrują się nie na tym poziomie funkcjonowania mózgu. To było tak, jakby starając się zrozumieć, jak działa Excel, łamanie komputer i badając interakcje tranzystorów.

Zamiast tego Хассабис zaproponował kompromis: ОИИ musi czerpać inspirację z szerokich metod, za pomocą których mózg przetwarza informacje, a nie z układów fizycznych lub konkretnych reguł, które stosuje się w konkretnych sytuacjach. Innymi słowy, musi skupić się na zrozumieniu oprogramowania mózgu, a nie jego sprzętu. Nowe metody, takie jak funkcjonalny rezonans magnetyczny (fmri), które pozwoliły zajrzeć w głąb mózgu w czasie jego pracy, napomykali, że takie rozumienie jest możliwe. Najnowsze badania, powiedział Хассабис, pokazują, że mózg uczy się, puszczając moje przeżycia podczas snu, aby wydobyć ogólne zasady. Badacze AI należy naśladować takiego systemu.

W prawym dolnym rogu otwierającym slajdu zdobi logo w postaci okrągłego niebieskiego wiru. Dwa słowa, stojące obok, drukowane na dole: DeepMind. To był pierwszy raz, kiedy firma wspominano publicznie. Хассабис przez rok próbował dostać zaproszenie na Singularity Summit. Wykład był jego agentem. W rzeczywistości, potrzebna mu była jedna minuta z Peterem Тилем, miliarderem z doliny Krzemowej, któryfinansował konferencję. Хассабис chciał inwestycji Thiel.

Хассабис nigdy nie mówił o tym, dlaczego potrzebna mu była pomoc właśnie Thiel. Ale Til wierzył w ОИИ jeszcze więcej, niż Хассабис. Przemawiając na Singularity Summit w 2009 roku Til powiedział, że jego największym strachem przed przyszłością nie było bunt robotów. Już się martwiłem o tym, że osobliwość nastąpi w najbliższym czasie. Świat potrzebuje nowych technologii, aby zapobiec recesji.

DeepMind w końcu zebrał 2 miliony funtów, z czego 1,4 miliona były Thiel. Kiedy Google kupił firmę w styczniu 2014 roku za 600 milionów dolarów, Til i inne pierwsi inwestorzy otrzymali zysk w wysokości 5000% swoich inwestycji.

Dla wielu założycieli był to szczęśliwy koniec. Można było odpocząć, zrobić krok do tyłu, spędzić czas sam na sam z pieniędzmi. Dla Хассабиса samo nabycie Google było tylko kolejnym krokiem w jego dążeniu do ОИИ. Spędził większą część 2013 roku, negocjowanie o warunkach transakcji. DeepMind powinna działać niezależnie od jego właściciela. Ona powinna była dostać plusy z posiadania Google, takie jak dostęp do tych strumieni i mocy obliczeniowej, nie tracąc kontroli.

Хассабис myślałem, że DeepMind może stać się hybrydą: będzie miał silnik starcie, mózg największych uniwersytetów i głębokie kieszenie jednej z najdroższych firm świata. Każdy składnik został na miejscu, aby przyspieszyć przyjazd ОИИ i wyeliminować przyczyny ludzkiego cierpienia.

Hu z pan Хассабис

Demis Хассабис urodził się w północnym Londynie w 1976 roku w rodzinie greka-киприота i китаянки z singapurskiej krwią. Był najstarszym z trzech braci i sióstr. Matka pracowała w brytyjskim sklepie John Lewis, a ojciec prowadził sklep z zabawkami. Sam Хассабис zajął się szachami w wieku czterech lat, obserwując grę ojca i wujka. Przez kilka tygodni to już обыгрывал dorosłych. Do 13 lat stał się drugim na świecie najlepszym całkowitym w swoim wieku. W osiem lat nauczył się programować na skromny komputerze.

Wykształcenie Wyższe Хассабис otrzymał w 1992 roku, na dwa lata przed terminem. Dostał pracę programisty gier wideo w Bullfrog Productions. Хассабис napisał Theme Park, w którym gracze tworzyli i kierowali wirtualnego parku rozrywki. Gra miała ogromny sukces i została sprzedana w nakładzie 15 milionów egzemplarzy, tworząc cały gatunek gier-symulatorów, celem których była nie do pokonania przeciwnika, a zoptymalizować funkcjonowanie ogromnej złożonego systemu, takie jak biznes lub miasto.

Oprócz tworzenia gier, Demis świetnie się w nich grał. Będąc nastolatkiem, on biegał między piętrami na zawody w gry planszowe, jednocześnie konkurując w pojedynkach w szachy, скрэббл, poker i backgammon. W 1995 roku, studiuje informatykę na uniwersytecie w Cambridge, Хассабис udział w studenckim turnieju w roku. Th — starożytna strategiczna gra planszowa, która znacznie trudniejsze do szachów. Umiejętności musi wymagać intuicji, zakupionego wieloletnim doświadczeniem. Nikt nie wiedział, czy bawił się Хассабис w ogóle go wcześniej.

Najpierw Хассабис wygrał turniej dla początkujących. Następnie pokonał zwycięzcę doświadczonych graczy, choć i z handicapem. Charles Matthews, mistrz cambridge roku, który przeprowadził turniej, wspomina szok od tego, jak doświadczony gracz zniszczył 19-letni debiutant. Matthews wziął Хассабиса pod swoje skrzydła.

Inteligencja i ambicja Хассабиса zawsze występowały w grach. Gry, z kolei, rozpalił jego pasja inteligencją. Obserwując jego rozwój w szachach, zastanawiał się, czy można zaprogramować komputery uczyć się tak samo, jak to czynił, gromadząc doświadczenie. Gry oferowane środowisko uczenia się, w którym nie odpowiadał prawdziwy świat. Oni byli silni i zamkniętymi. Ponieważ gry są oddzielone od świata rzeczywistego, można je ćwiczyć bez zakłóceń i skutecznie opanować. Gry przyspieszają czas: gracze tworzą przestępczy syndykat kilku dni i walczą na Sommą kilka minut.

W Lecie 1997 roku Хассабис udał się do Japonii. W maju tego roku komputer Deep Blue, należący do IBM, potrafię Harry ' ego Kasparowa, mistrza świata w szachach. Po raz pierwszy komputer pokonał arcymistrza. Mecz przyciągnął uwagę całego świata i wywołał zaniepokojenie z powodu rosnącej mocy i potencjalnego zagrożenia komputerów. Kiedy Хассабис spotkał się z Масахико Фуцзувэра, japońskim mistrzem gier planszowych, opowiedział o planach, w których łączyły go interesy do strategicznych gier i sztucznej inteligencji: pewnego dnia on opracuje program komputerowy, aby pokonać największego gracza w go.

Хассабис podchodził do swojej kariery metodycznie. "W wieku 20 lat Хассабис uważał, że pewne rzeczy powinny być już na swoich miejscach, zanim sztuczna inteligencja może przejść na odpowiedni jej poziom", mówi Matthews. Miał plan".

W 1998 roku założył własny plac studio o nazwie Elixir. Хассабис skupił się na jednej bardzo ambitnej grze Republic: The Revolution, trudnej politycznej symulacji. Kilku aż do tego, jeszcze ucząc się w szkole, Хассабис powiedział swojemu przyjacielowi Мустафе Сулейману, że świat potrzebuje wielkich symulacji, aby modelować jego skomplikowaną dynamikę i rozwiązać najbardziej złożone problemy społeczne. Teraz próbował zrobić to w grze.

Przyoblec jego dążenia do kodu było trudniejsze, niż się spodziewano. Elixir w końcu wydała okrojoną wersję gry, aby uzyskać ciepłe opinie. Inne gry nie powiodły się. W kwietniu 2005 roku Хассабис zamknął Elixir. Matthews uważa, że Хассабис założył firmę, tylko po to, aby uzyskać doświadczenia na stanowisku kierowniczym. Teraz Хассабису brakowało tylko jednej ważnejzakresie wiedzy, zanim będzie mógł rozpocząć quest w poszukiwaniu ОИИ. Powinien był zrozumieć ludzki mózg.

W 2005 roku Хассабис otrzymał doktorat z neurobiologii w University college w Londynie. Opublikował bardzo wpływowego badanie pamięci i wyobraźni. Jedna z prac, która od tego czasu цитировалась ponad 1000 razy, pokazała, że ludzie z amnezją również trudno sobie wyobrazić nowe doświadczenie, co zakłada istnienie związku między pamięcią i tworzeniem obrazów myślowych. Хассабис выстраивал zrozumienie mózgu potrzebny na opanowanie ОИИ. Duża część jego prac sprowadza się do jednego pytania: jak ludzki mózg odbiera i zapisuje koncepcji i wiedzy?

Хассабис oficjalnie ustanowił DeepMind 15 listopada 2010 roku. Misja firmy została sporządzona tak samo, jak i teraz: "rozwiązać inteligencja", a następnie użyć do rozwiązania całej reszty. Jak powiedział Хассабис uczestnikom Singularity Summit, oznacza to tłumaczenie naszego zrozumienia tego, jak mózg wykonuje zadania, w oprogramowanie, które będzie w stanie wykorzystać te same metody do nauki.

Хассабис w żadnym wypadku nie twierdzi, że nauka jest w pełni spotkał ludzki umysł. Plan realizacji ОИИ nie można było wyciągnąć z setek badań w dziedzinie neurobiologii. Ale najwyraźniej wierzy, że rozpocząć pracę nad ОИИ w taki sposób, który mu imponuje, jest możliwe. Jednak możliwe jest również i to, że jego pewność siebie niż rzeczywistość. Jeszcze bardzo mało wiemy na pewno o tym, jak w rzeczywistości funkcjonuje mózg. W 2018 roku, zespół australijskich naukowców postawiła pod znakiem zapytania wnioski samego doktora nauk Хассабиса. Oczywiście, to tylko jeden dokument, ale to pokazuje, że nauka, leżąca na podstawie pracy DeepMind, nie sprawdzony.

Sulejman i Shane Legge, opętany ОИИ nowozelandczyk, którego Хассабис również spotkał się na uniwersytecie, dołączył jako założycieli. Reputacja firmy szybko rosła. Хассабис kwitnął. "On przyciąga, jak magnes", mówi Ben Faulkner, były szef Deep Mind. Wiele poborowi przybyli z Europy. Być może największym osiągnięciem DeepMind było wczesne aktywny zatrudnianie utalentowanych ludzi i zatrzymanie najzdolniejszych i najlepszych z nich.

Jedna z technik uczenia maszynowego, na którym koncentruje się spółka, wzrosła z podwójnego hobby Хассабиса grami i neuroscience: szkolenie z posiłkami. Taki program jest zbudowany tak, aby zbierać informacje o środowisku, a następnie wyciągać wnioski z niej, wielokrotnie reprodukuje swoje doświadczenie — dokładnie tak samo, jak Хассабис opisał aktywność mózgu podczas snu w swoim wykładzie na Singularity Summit.

Szkolenia z posiłkami zaczyna się od nowa. Program wyświetla wirtualne środowisko, o którym ona nic nie wie, oprócz zasad, takich jak gry symulator szachów i gry wideo. Program zawiera co najmniej jeden składnik, znany jako sieć neuronowa. Składa się z warstw obliczeniowych struktur, które przesiewa się informacje, aby zidentyfikować pewne cechy lub strategii. Każda warstwa bada środę na swoim poziomie abstrakcji. Najpierw te sieci mają minimalny sukces, ale ich błędy — i to ważne — również w nich są kodowane. Stopniowo stają się coraz mądrzejszy i sprytniejszy, eksperymentując z różnymi strategiami i otrzymując nagrodę w przypadku sukcesu. Jeśli program przenosi kawałek szachy i w rezultacie przegrywa grę, więcej takiego błędu nie popełni. Duża część magii sztucznej inteligencji polega na prędkości, z jaką powtarza te zadania.

Praca DeepMind osiągnął swój szczyt w 2016 roku, kiedy zespół opracował program sztucznej inteligencji, w której użyto szkolenia z posiłkami wraz z innymi metodami gry w go. Program pod nazwą AlphaGo wywołała zdziwienie po tym, jak ograła mistrza świata w meczu z pięcioma grami w Seulu w 2016 roku. Zwycięstwo maszyny, którą obserwowali 280 milionów osób, zdarzyło się dziesięć lat wcześniej, niż przewidywali maszyny. W przyszłym roku ulepszona wersja AlphaGo pokonała mistrza Chin w roku.

Jak Deep Blue w 1997 roku, AlphaGo zmienił postrzeganie ludzkich osiągnięć. Mistrzowie wśród ludzi, błyskotliwe umysły naszej planety, nie stanęli na szczycie własności piramidy. Po prawie 20 lat po tym, jak Хассабис powiedział o swoich ambicjach Фудзувере, on je wypełnił. Хассабис powiedział, że ten mecz doprowadził go do łez. Pozostał wdzięczny Мэтьюзу.

DeepBlue wygrał dzięki brutalnej sile i szybkości obliczeń, ale styl AlphaGo wydawał artystycznym, prawie ludzkim. Jego изощество i wyrafinowanie, wyższość obliczeniowej siły, wydawało się, pokazywali, że DeepMind wyprzedził konkurentów w tworzeniu programu, który będzie w stanie leczyć choroby i zarządzania miastami.

DeepMind i sztuczna inteligencja

Хассабис zawsze mówił, że DeepMind zmieni świat na lepsze. Ale w ОИИ nie ma żadnej pewności. Jeżeli kiedykolwiek pojawi się, nie wiemy, będzie to lepiej lub gorzej, czy będzie on podlegać ludzkiej kontroli. Jeśli będzie, kto będzie trzymał stery?

Od samego początku Хассабис obronić niepodległość DeepMind. Zawsze nalegał, aby DeepMind pozostał w Londynie. Kiedy Google kupił firmę w 2014 roku, pytanie o kontroli stał się bardziej aktualny. Хассабису nie trzeba było sprzedawać DeepMind Google. Gotówki brakowało, i zapisał model biznesowy, w ramach której firma będzie tworzyć gry na finansowanie badań. Pieniędzy w Google obiecał wiele, ale nie chciał przekazywać firmę, którą on wychował. W ramach transakcji DeepMind stworzyła umowy, który nie pozwolił Google wjednostronnie przejąć kontrolę własności intelektualnej firmy. W roku poprzedzającym nabycia, według źródeł, obie strony podpisały umowę — Porozumienie o przestrzeganiu etyki i bezpieczeństwa. To porozumienie zostało sporządzone starszych prawników w Londynie.

Umowa przekazuje kontrolę nad głównym technologii ОИИ DeepMind, jeśli zostanie ona utworzona, w ręce syndyka Rady etyki. Według tego samego źródła, Rada etyki wcale nie jest kosmetycznej bilans ze strony Google, a zapewnia niezawodną obsługę prawną DeepMind aby zachować kontrolę nad jego najcenniejszą i potencjalnie najbardziej niebezpieczne technologią. Imiona i nazwiska członków komisji nie zostały upublicznione, ale innego źródła zbliżone do DeepMind, i do Google, poinformował, że cała trójka założycieli DeepMind wchodzą do Rady. Sama firma nic nie ujawnia.

Хассабис może zadecydować o losie DeepMind i innymi metodami. Jeden z nich — lojalność. Pracownicy, zarówno dawne, jak i obecne, mówią, że program badań Хассабиса jest jedną z mocnych stron DeepMind. Jego program, który oferuje fascynującą i ważną pracę, bez nacisku ze strony środowisk naukowych, przyciągnęła setki najbardziej utalentowanych ekspertów na świecie. U DeepMind istnieje podrzędne biura w Paryżu i Alberta. Wielu pracowników czuje większą więź z Хассабисом i jego misją, niż z jego korporacyjnym rodzicem, który potrzebuje tylko dochody. Aż Хассабис zachowuje osobiste zaangażowanie, on ma dużo władzy nad swoim jedynym udziałowcem. Lepiej niech talenty działają na DeepMind zdalnie, niż są w Facebook czy Apple.

U DeepMind jest jeszcze jedno źródło wahaczy, choć wymaga stałego uzupełniania: pomyślny aureola. Firma w tym się udało. AlphaGo był świetną reklamą. Po dokonaniu zakupu, Google, firma wielokrotnie produkowała cuda, które przyciąga uwagę całego świata. Jeden z przykładów oprogramowania może wykrywać wzorce podczas skanowania oczy, które są wskaźnikami zwyrodnienia plamki żółtej. Inny program nauczyła się grać w szachy od podstaw, wykorzystując architekturę, podobne do AlphaGo, i stała się największym graczem wszech czasów tylko przez dziewięć godzin gry za sobą. W grudniu 2018 roku program AlphaFold okazała się bardziej dokładne, niż konkurenci, w przewidywaniu trójwymiarowej struktury białek z listy składników, potencjalnie zdolnych leczyć takie choroby Parkinsona i Alzheimera.

DeepMind szczególnie dumny z opracowanymi algorytmami, które liczą się najbardziej skuteczne środki chłodzenia centrów danych Google, które zawierają około 2,5 miliona komputerowych serwera. W 2016 roku DeepMind oświadczyła, że zmniejszyła koszty Google energii elektrycznej o 40%. Ale niektórzy znawcy mówią, że to chwalenie się na wyrost. Google używał algorytmy do optymalizacji swoich centrów na długo przed pojawieniem się DeepMind. Istnieje opinia, że DeepMind zawyża swoje zasługi, aby kupić wartość w oczach Alphabet. Nadrzędna firma Google Alphabet płaci DeepMind za podobne usługi. W 2017 roku najnowsza wystawionej Alphabet konto na 54 miliony funtów. Liczby te blado w porównaniu z kosztami pobrania DeepMind. W tym samym roku wydała 200 milionów funtów na personel. W sumie, w 2017 roku DeepMind straciła 282 milionów funtów.

To grosze dla bogatego giganta. Ale inne spółki zależne Alphabet przyciągnęły uwagę Ruth Porat, skąpy dyrektora finansowego Alphabet. Google Fiber, próba zbudowania dostawcy usług internetowych, wstrzymania, po tym, jak stało się jasne, że inwestycja będzie się opłacać przez dziesięciolecia. Badacze AI również zastanawia się, "запоратят" czy DeepMind.

Stopniowe ujawnianie osiągnięć DeepMind w dziedzinie AI jest częścią strategii, stopniowo выстраивающей reputację firmy. Jest to szczególnie cenne w czasie, gdy Google oskarżony o naruszenie prywatności użytkowników i dystrybucji фейковых wiadomości. DeepMind również szczęście zdobyć zwolennika na najwyższym poziomie: Larry Page, jeden z dwóch założycieli Google, obecnie prezes Alphabet. Paige jest bardzo zbliżony do Хассабису. Ojciec Paige — Karl — studiował нейросети w latach 1960-tych. Na początku swojej kariery Page powiedział, że stworzył Google wyłącznie do tego, aby założyć firmę AI.

Starannej kontroli DeepMind nad prasą nie odpowiada akademickiej ducha, który przenika firmę. Niektórzy naukowcy narzekają, że jest im trudno opublikować swoją pracę: muszą pokonać warstwy wewnętrznej zgody, zanim będą nawet w stanie złożyć pracę na konferencję lub w dzienniku. DeepMind uważa, że należy działać ostrożnie, aby nie przestraszyć publiczność perspektywą ОИИ. Ale zbyt twarde zarzuty mogą zepsuć akademickiej atmosfery i osłabić lojalność pracowników.

Pięć lat Później po zakupie Google pytanie o to, kto kontroluje DeepMind, staje się krytyczna. Założyciele i pierwsi pracownicy firmy zbliżają się do tego progu, kiedy mogą wyjść z finansowego odszkodowania, którą otrzymali od zakupu spółki (akcje Хассабиса prawdopodobnie kosztować około 100 milionów funtów). Ale źródła zbliżone do firmy, zakłada, że Alphabet odsunęła wypłaty założycielami na kilka lat. Biorąc pod uwagę swoje nieustające ostrość, Хассабис raczej nie opuści statek. On interesuje się pieniędzmi tylko w takim zakresie, ponieważ pomagają mu w podejściu cel całego życia. Ale niektórzy koledzy odeszli. Trzy inżyniera AI opuścili firmę od początku 2019 roku. Ben Laurie, jeden z najwybitniejszych inżynierów bezpieczeństwa w świecie, wrócił w Google. To, oczywiście,nie tak wiele, ale DeepMind oferuje taką niesamowitą misję i godziwe wynagrodzenie, że odchodzą i nikt nie musi.

Póki co Google nie bardzo przeszkadzał DeepMind. Ale jedno ostatnie zdarzenie wywołało zaniepokojenie z powodu tego, jak długo firma będzie w stanie utrzymać swoją niezależność.

DeepMind, medycyna i sztuczna inteligencja

DeepMind zawsze planowałam użyć SI do poprawy zdrowia. W lutym 2016 roku utworzono nową jednostkę organizacyjną DeepMind Health, na czele z Мустафой Sulaimanem, jednym z założycieli firmy. Sulejman, którego matka była pielęgniarką, miał nadzieję na stworzenie programu pod nazwą Streams, który ostrzegał, by lekarzy o pogorszeniu się stanu zdrowia pacjenta. DeepMind otrzymywał wynagrodzenie w zależności od wyników. Ponieważ praca ta wymagała dostępu do poufnych informacji o pacjentach, Sulejman stworzył Niezależną ekspertów komisji (IRP), który dostał dobre angielskie specjaliści w dziedzinie opieki zdrowotnej i technologii. DeepMind był wystarczająco mądry, aby to wisi. Później brytyjski informacyjny komisarz stwierdził, że jeden z partnerów wśród szpitali naruszył prawo przy przetwarzaniu danych pacjentów. Niemniej jednak, do końca 2017 roku Sulejman podpisał umowy z czterema największymi szpitalami.

8 stycznia 2018 roku Google poinformowała o utworzeniu własnego działu opieki zdrowotnej — Google Health. Pięć dni później ogłosili, że DeepMind Health powinna przyłączyć się do wysiłków spółki dominującej. DeepMind nikt nie ostrzegał. Według informacji uzyskanych z wniosków o dostępie do informacji, ona powiadomiła o zmianie szpitala-partnerzy dopiero za trzy dni. DeepMind chciała informować, kiedy rozpoczęły się dyskusje na temat fuzji, jednak powiedziała, że w krótkim okresie pomiędzy zawiadomieniem i publicznym ogłoszeniem w interesie przejrzystości. W 2016 roku Sulejman napisał, że "dane pacjenta nigdy nie będą związane z kontami, produktami lub usługami Google". Jego obietnica, wydawało się, że zostało naruszone.

Aneksji Google wkurzyłaś pracowników DeepMind Health. Według osób zbliżonych do zespołu opieki zdrowotnej, coraz więcej pracowników planują opuścić firmę po zakończeniu procesu przejęcia.

Ten odcinek pokazuje, że peryferyjnych części pracy DeepMind narażone na Google. DeepMind oświadczyła, że "wszyscy zgodzili się z tym, że ma sens połączyć te wysiłki w jednym wspólnym wysiłku z narosłymi zasobami". To powoduje, że pytanie o to, czy Google stosować tę samą logikę do pracy DeepMind nad ОИИ.

Jeśli patrzeć ambitnie, DeepMind osiągnęła wiele sukcesów. Ona już stworzyła oprogramowanie, które może uczyć się wykonywać zadania na nadprzyrodzonych poziomie. Хассабис często odwołuje się do Breakout, gry wideo dla konsoli Atari. Gracz kontroluje nietoperza, który może poruszać się poziomo i z jej pomocą uderza piłkę, kierując ich w bloki powyżej, które są niszczone podczas zderzenia. Gracz wygrywa, gdy wszystkie bloki zniszczone. Przegrywa, jeśli piłka spada obok platformy. Bez ludzkich instrukcji program DeepMind nie tylko nauczyła się grać w tę grę, ale i rzucać piłki w przestrzeń za blokami, aby wykorzystać przewagę odbija. To pokazuje siłę szkolenia z posiłkami i nadprzyrodzone zdolności programów komputerowych DeepMind.

Demonstracja, oczywiście, jest imponująca. Ale Хассабис coś milczy. Jeśli wirtualną platformę podnieść, choć nieco wyżej, program popełni błąd. Umiejętności, które nabył program DeepMind, jest tak ograniczony, że nie może reagować nawet na małe zmiany w środowisku, które człowiek mógłby z łatwością pokonać. Ale na świecie istnieje wiele subtelności. Do diagnostyki inteligencji nie ma dwóch takich samych organów ciała. Do mechanicznego inteligencji dwa podobne silnika nigdy nie będą takie same w konfiguracji. Dlatego wydanie programów w dziką przyrodę powiązany z trudnościami.

Po Drugie, o czym rzadko się mówi DeepMind, polega na tym, że sukces w środowiskach wirtualnych w zależności od dostępności funkcji wynagrodzenia: sygnał, który pozwala oprogramowania mierzyć swoje postępy. Program dowiaduje się, że рикошетирование od tylnej ściany zwiększa jej koszt. Duża część pracy DeepMind z AlphaGo polegała na tworzeniu funkcji wynagrodzenia, zgodnego z taka wymagająca gra. Niestety, prawdziwy świat nie oferuje prostych nagród. Postęp rzadko mierzona poszczególnymi punktami. Ludzki mózg otrzymuje sygnał o sukcesie zadania bezpośrednio w trakcie jej wykonywania, a nie po.

DeepMind znalazła sposób, aby to obejść, wykorzystując ogromną ilość mocy obliczeniowej. AlphaGo gra w gry tysiące lat ludzkiej czasu, aby się czegoś nauczyć. Wielu filozofów AI podejrzewają, że to rozwiązanie jest nie do przyjęcia dla zadań, które oferują bardziej słabe wynagrodzenie. DeepMind uznaje istnienie takich niejasności. Niedawno zajęła się StarCraft 2, komputerowej strategią. Decyzje podjęte na początku gry, mają swoje konsekwencje, które pojawiają się później, co jest dość charakterystyczne dla krętej i refleksja sprzężenia zwrotnego rzeczywistych zadań. W styczniu oprogramowanie DeepMind обыграло kilku najlepszych graczy na świecie, i to było bardzo imponujące, nie zważając na sztywne ograniczenia. Programy również zaczęli studiować funkcji wynagrodzenia, zgodnie z opinii ludzi. Ale włączenie ludzkich instrukcji w cyklu stwarza ryzyko utraty skali i prędkości.

Obecni, jak i byli naukowcy z DeepMind i Google na warunkach anonimowości wyrazili sceptycyzm w tym, że DeepMind jest w stanie osiągnąć ОИИ za pomocą takich metod. Dla nich dążenie do osiągnięcia wysokiejwydajność w symulowanych środowiskach utrudnia rozwiązanie problemu funkcji wynagrodzenia. I właśnie takie podejście leży u podstaw DeepMind. W firmie jest wewnętrzna konkurencja, gdy programy konkurencyjnych drużyn walczą o dominację.

Хассабис zawsze widział życie jak grę. Duża część jego kariery został poświęcony ich tworzenia, duża część jego wolnego czasu została przeznaczona na proces gry w nich. W DeepMind wykorzystuje je do tworzenia silnej sztucznej inteligencji. Jak i jego oprogramowanie, Хассабис uczy się na własnym doświadczeniu. Pościg za ОИИ może ostatecznie prowadzić w ślepy zaułek, jednocześnie wymyślając przydatne technologie medyczne i pokonując najlepszych w swojej umiejętności graczy. Ale może również utworzyć ОИИ tuż pod nosem Google, ale poza jego kontrolą. I jeśli mu się to uda zrobić, Demis Хассабис wygra w najbardziej wymagające gry z wszystkich.

Porozmawiaj o artykuł .

Na podstawie materiałów 1843magazine, Hal Ходсон