DeepMind i Google: bitwa o kontrolę nad sztuczną inteligencją

Data:

2019-03-23 05:00:21

Przegląd:

950

Ranking:

1Kochać 0Niechęć

Udział:

DeepMind i Google: bitwa o kontrolę nad sztuczną inteligencją Source:

Pewnego wieczoru w sierpniu 2010 roku, w sali konferencyjnej na brzegu zatoki San Francisco na scenę wyszedł 34-letni londyńczyk o imieniu Demis Хассабис. Wspinając się na podium наигранной chodu człowieka, który próbuje kontrolować swoje nerwy, zacisnął usta w krótkim uśmiechu i powiedział: "cóż, chciałbym dzisiaj porozmawiać o różnych podejściach do tworzenia…". Zatrzymał się, jakby zdając sobie sprawę, jak głośno mówi o swoich ambicjach. I powiedział to: "AGI".

ОИИ (AGI) oznacza całkowity sztuczna inteligencja, hipotetyczny program komputerowy, który może wykonywać intelektualne tak samo dobrze, jak i osób, lub nawet lepiej. ОИИ będzie w stanie wykonywać poszczególne zadania — jak rozpoznawania ludzi na zdjęcie lub tłumaczenia języków, które obecnie są w stanie wykonywać wiele osobnych sztucznych istot inteligentnych w naszych telefonach i komputerach. Mogą jednocześnie prowadzić rozmowę, grać w szachy i mówić po francusku. Oni będą w stanie zrozumieć w pismach z fizyki, pisać powieści, opracowywać strategie inwestycyjne i utrzymania swobodną rozmowę z nieznajomymi. Będą oni czuwać nad reakcjami jądrowymi, zarządzanie sieciami dostaw energii i transportu przepływem, i bez wysiłku osiągnąć sukces we wszystkich innych. ОИИ sprawi, że najbardziej zaawansowane AI dziś jak kalkulatory kieszonkowe.

Tylko intelekt, stanie obecnie wykonywać wszystkie te zadania, należy do człowieka. Ale ludzki umysł jest ograniczony do czaszki, w której znajduje się mózg. Jego moc jest ograniczona znikomą ilością energii, którą może zapewnić organizm. Ponieważ ОИИ będzie działać na komputerach, to nie będzie cierpieć z powodu tych ograniczeń. Jego inteligencja będzie ograniczona tylko ilością dostępnych procesorów. ОИИ może rozpocząć monitorowania reakcji jądrowych. Ale dość szybko znajdzie nowych źródeł energii, trawienie więcej pracy z fizyki na sekundę, niż człowiek jest w stanie za tysiąc lat. Inteligencja ludzkiego poziomu, заручившийся szybkością i bezpieczeństwem komputerów, uwolni nas od problemów. Хассабис powiedział brytyjskiej gazecie Observer, że oczekuje od ОИИ rozwiązania, wśród innych dyscyplin, takich problemów, jak "rak, zmiana klimatu, energia, genomics, makroekonomia i systemów finansowych".

Konferencja, na której występował Хассабис, nazywała Singularity Summit. Osobliwość — pierwsza część nazwy odnosi się do najbardziej prawdopodobnego skutek pojawienia się ОИИ, zdaniem futurologów. Ponieważ ОИИ będzie przetwarzać informacje z dużą prędkością, bardzo szybko stanie się bardzo mądry. Szybkie cykle samodoskonalenia doprowadzą do wybuchu maszynowego inteligencji, w wyniku czego ludzie będą wąchać кремниевую kurz. Ponieważ jest to przyszłość opiera się wyłącznie na niesprawdzonych założeniach, niemal religijnie sugerują, że osobliwość okaże się albo utopię, albo piekło.

Sądząc po nazwach występów, uczestnicy konferencji więcej wierzyli w pierwszy wynik: "Umysł i jak go budować", "AI przeciw starzeniu", "Zastępując nasze ciała", "Modyfikując granicę między życiem i śmiercią". Chodzi Хассабиса, wręcz przeciwnie, wydawało się nudne: "Systemowy нейронаучный podejście do tworzenia ОИИ".

Хассабис szedł między podium i ekranem, mówiąc tupot. Był ubrany w bordowy sweter i białą koszulę na guziki, jak uczniak. Jego niewielki wzrost, wydawało się, że tylko podkreślał jego inteligencja. Do tej pory, wyjaśnił Хассабис, naukowcy podchodzili do ОИИ z dwóch stron. Jedną z metod, znany jako symbol AI, próbował opisać i zaprogramować wszystkie zasady potrzebne do systemu, który mógłby myśleć jak człowiek. Podejście to był popularny w latach 1980-tych i 1990-tych, ale nie dał pożądanych rezultatów. Хассабис uważał, że mentalna architektura mózgu jest zbyt cienka, aby opisać ją w taki sposób.

Inne podejście zgromadził naukowców, którzy próbują odtworzyć fizyczne móżdżkowe sieci w formie cyfrowej. Miało to pewien sens. W końcu mózg to loży ludzkiego intelektu. Ale te oficery śledczy także poruszały się złą drogą, powiedział Хассабис. Ich zadaniem była zbliżona do stworzenia mapy wszystkich gwiazd we Wszechświecie. Jeśli głębiej, koncentrują się nie na tym poziomie funkcjonowania mózgu. To było tak, jakby starając się zrozumieć, jak działa Excel, łamanie komputer i badając interakcje tranzystorów.

Zamiast tego Хассабис zaproponował kompromis: ОИИ musi czerpać inspirację z szerokich metod, za pomocą których mózg przetwarza informacje, a nie z układów fizycznych lub konkretnych reguł, które stosuje się w konkretnych sytuacjach. Innymi słowy, musi skupić się na zrozumieniu oprogramowania mózgu, a nie jego sprzętu. Nowe metody, takie jak funkcjonalny rezonans magnetyczny (fmri), które pozwoliły zajrzeć w głąb mózgu w czasie jego pracy, napomykali, że takie rozumienie jest możliwe. Najnowsze badania, powiedział Хассабис, pokazują, że mózg uczy się, puszczając moje przeżycia podczas snu, aby wydobyć ogólne zasady. Badacze AI należy naśladować takiego systemu.

W prawym dolnym rogu otwierającym slajdu zdobi logo w postaci okrągłego niebieskiego wiru. Dwa słowa, stojące obok, drukowane na dole: DeepMind. To był pierwszy raz, kiedy firma wspominano publicznie. Хассабис przez rok próbował dostać zaproszenie na Singularity Summit. Wykład był jego agentem. W rzeczywistości, potrzebna mu była jedna minuta z Peterem Тилем, miliarderem z doliny Krzemowej, któryfinansował konferencję. Хассабис chciał inwestycji Thiel.

Хассабис nigdy nie mówił o tym, dlaczego potrzebna mu była pomoc właśnie Thiel. Ale Til wierzył w ОИИ jeszcze więcej, niż Хассабис. Przemawiając na Singularity Summit w 2009 roku Til powiedział, że jego największym strachem przed przyszłością nie było bunt robotów. Już się martwiłem o tym, że osobliwość nastąpi w najbliższym czasie. Świat potrzebuje nowych technologii, aby zapobiec recesji.

DeepMind w końcu zebrał 2 miliony funtów, z czego 1,4 miliona były Thiel. Kiedy Google kupił firmę w styczniu 2014 roku za 600 milionów dolarów, Til i inne pierwsi inwestorzy otrzymali zysk w wysokości 5000% swoich inwestycji.

Dla wielu założycieli był to szczęśliwy koniec. Można było odpocząć, zrobić krok do tyłu, spędzić czas sam na sam z pieniędzmi. Dla Хассабиса samo nabycie Google było tylko kolejnym krokiem w jego dążeniu do ОИИ. Spędził większą część 2013 roku, negocjowanie o warunkach transakcji. DeepMind powinna działać niezależnie od jego właściciela. Ona powinna była dostać plusy z posiadania Google, takie jak dostęp do tych strumieni i mocy obliczeniowej, nie tracąc kontroli.

Хассабис myślałem, że DeepMind może stać się hybrydą: będzie miał silnik starcie, mózg największych uniwersytetów i głębokie kieszenie jednej z najdroższych firm świata. Każdy składnik został na miejscu, aby przyspieszyć przyjazd ОИИ i wyeliminować przyczyny ludzkiego cierpienia.

Hu z pan Хассабис

Demis Хассабис urodził się w północnym Londynie w 1976 roku w rodzinie greka-киприота i китаянки z singapurskiej krwią. Był najstarszym z trzech braci i sióstr. Matka pracowała w brytyjskim sklepie John Lewis, a ojciec prowadził sklep z zabawkami. Sam Хассабис zajął się szachami w wieku czterech lat, obserwując grę ojca i wujka. Przez kilka tygodni to już обыгрывал dorosłych. Do 13 lat stał się drugim na świecie najlepszym całkowitym w swoim wieku. W osiem lat nauczył się programować na skromny komputerze.

Wykształcenie Wyższe Хассабис otrzymał w 1992 roku, na dwa lata przed terminem. Dostał pracę programisty gier wideo w Bullfrog Productions. Хассабис napisał Theme Park, w którym gracze tworzyli i kierowali wirtualnego parku rozrywki. Gra miała ogromny sukces i została sprzedana w nakładzie 15 milionów egzemplarzy, tworząc cały gatunek gier-symulatorów, celem których była nie do pokonania przeciwnika, a zoptymalizować funkcjonowanie ogromnej złożonego systemu, takie jak biznes lub miasto.

Oprócz tworzenia gier, Demis świetnie się w nich grał. Będąc nastolatkiem, on biegał między piętrami na zawody w gry planszowe, jednocześnie konkurując w pojedynkach w szachy, скрэббл, poker i backgammon. W 1995 roku, studiuje informatykę na uniwersytecie w Cambridge, Хассабис udział w studenckim turnieju w roku. Th — starożytna strategiczna gra planszowa, która znacznie trudniejsze do szachów. Umiejętności musi wymagać intuicji, zakupionego wieloletnim doświadczeniem. Nikt nie wiedział, czy bawił się Хассабис w ogóle go wcześniej.

Najpierw Хассабис wygrał turniej dla początkujących. Następnie pokonał zwycięzcę doświadczonych graczy, choć i z handicapem. Charles Matthews, mistrz cambridge roku, który przeprowadził turniej, wspomina szok od tego, jak doświadczony gracz zniszczył 19-letni debiutant. Matthews wziął Хассабиса pod swoje skrzydła.

Inteligencja i ambicja Хассабиса zawsze występowały w grach. Gry, z kolei, rozpalił jego pasja inteligencją. Obserwując jego rozwój w szachach, zastanawiał się, czy można zaprogramować komputery uczyć się tak samo, jak to czynił, gromadząc doświadczenie. Gry oferowane środowisko uczenia się, w którym nie odpowiadał prawdziwy świat. Oni byli silni i zamkniętymi. Ponieważ gry są oddzielone od świata rzeczywistego, można je ćwiczyć bez zakłóceń i skutecznie opanować. Gry przyspieszają czas: gracze tworzą przestępczy syndykat kilku dni i walczą na Sommą kilka minut.

W Lecie 1997 roku Хассабис udał się do Japonii. W maju tego roku komputer Deep Blue, należący do IBM, potrafię Harry ' ego Kasparowa, mistrza świata w szachach. Po raz pierwszy komputer pokonał arcymistrza. Mecz przyciągnął uwagę całego świata i wywołał zaniepokojenie z powodu rosnącej mocy i potencjalnego zagrożenia komputerów. Kiedy Хассабис spotkał się z Масахико Фуцзувэра, japońskim mistrzem gier planszowych, opowiedział o planach, w których łączyły go interesy do strategicznych gier i sztucznej inteligencji: pewnego dnia on opracuje program komputerowy, aby pokonać największego gracza w go.

Хассабис podchodził do swojej kariery metodycznie. "W wieku 20 lat Хассабис uważał, że pewne rzeczy powinny być już na swoich miejscach, zanim sztuczna inteligencja może przejść na odpowiedni jej poziom", mówi Matthews. Miał plan".

W 1998 roku założył własny plac studio o nazwie Elixir. Хассабис skupił się na jednej bardzo ambitnej grze Republic: The Revolution, trudnej politycznej symulacji. Kilku aż do tego, jeszcze ucząc się w szkole, Хассабис powiedział swojemu przyjacielowi Мустафе Сулейману, że świat potrzebuje wielkich symulacji, aby modelować jego skomplikowaną dynamikę i rozwiązać najbardziej złożone problemy społeczne. Teraz próbował zrobić to w grze.

Przyoblec jego dążenia do kodu było trudniejsze, niż się spodziewano. Elixir w końcu wydała okrojoną wersję gry, aby uzyskać ciepłe opinie. Inne gry nie powiodły się. W kwietniu 2005 roku Хассабис zamknął Elixir. Matthews uważa, że Хассабис założył firmę, tylko po to, aby uzyskać doświadczenia na stanowisku kierowniczym. Teraz Хассабису brakowało tylko jednej ważnejzakresie wiedzy, zanim będzie mógł rozpocząć quest w poszukiwaniu ОИИ. Powinien był zrozumieć ludzki mózg.

W 2005 roku Хассабис otrzymał doktorat z neurobiologii w University college w Londynie. Opublikował bardzo wpływowego badanie pamięci i wyobraźni. Jedna z prac, która od tego czasu цитировалась ponad 1000 razy, pokazała, że ludzie z amnezją również trudno sobie wyobrazić nowe doświadczenie, co zakłada istnienie związku między pamięcią i tworzeniem obrazów myślowych. Хассабис выстраивал zrozumienie mózgu potrzebny na opanowanie ОИИ. Duża część jego prac sprowadza się do jednego pytania: jak ludzki mózg odbiera i zapisuje koncepcji i wiedzy?

Хассабис oficjalnie ustanowił DeepMind 15 listopada 2010 roku. Misja firmy została sporządzona tak samo, jak i teraz: "rozwiązać inteligencja", a następnie użyć do rozwiązania całej reszty. Jak powiedział Хассабис uczestnikom Singularity Summit, oznacza to tłumaczenie naszego zrozumienia tego, jak mózg wykonuje zadania, w oprogramowanie, które będzie w stanie wykorzystać te same metody do nauki.

Хассабис w żadnym wypadku nie twierdzi, że nauka jest w pełni spotkał ludzki umysł. Plan realizacji ОИИ nie można było wyciągnąć z setek badań w dziedzinie neurobiologii. Ale najwyraźniej wierzy, że rozpocząć pracę nad ОИИ w taki sposób, który mu imponuje, jest możliwe. Jednak możliwe jest również i to, że jego pewność siebie niż rzeczywistość. Jeszcze bardzo mało wiemy na pewno o tym, jak w rzeczywistości funkcjonuje mózg. W 2018 roku, zespół australijskich naukowców postawiła pod znakiem zapytania wnioski samego doktora nauk Хассабиса. Oczywiście, to tylko jeden dokument, ale to pokazuje, że nauka, leżąca na podstawie pracy DeepMind, nie sprawdzony.

Sulejman i Shane Legge, opętany ОИИ nowozelandczyk, którego Хассабис również spotkał się na uniwersytecie, dołączył jako założycieli. Reputacja firmy szybko rosła. Хассабис kwitnął. "On przyciąga, jak magnes", mówi Ben Faulkner, były szef Deep Mind. Wiele poborowi przybyli z Europy. Być może największym osiągnięciem DeepMind było wczesne aktywny zatrudnianie utalentowanych ludzi i zatrzymanie najzdolniejszych i najlepszych z nich.

Jedna z technik uczenia maszynowego, na którym koncentruje się spółka, wzrosła z podwójnego hobby Хассабиса grami i neuroscience: szkolenie z posiłkami. Taki program jest zbudowany tak, aby zbierać informacje o środowisku, a następnie wyciągać wnioski z niej, wielokrotnie reprodukuje swoje doświadczenie — dokładnie tak samo, jak Хассабис opisał aktywność mózgu podczas snu w swoim wykładzie na Singularity Summit.

Szkolenia z posiłkami zaczyna się od nowa. Program wyświetla wirtualne środowisko, o którym ona nic nie wie, oprócz zasad, takich jak gry symulator szachów i gry wideo. Program zawiera co najmniej jeden składnik, znany jako sieć neuronowa. Składa się z warstw obliczeniowych struktur, które przesiewa się informacje, aby zidentyfikować pewne cechy lub strategii. Każda warstwa bada środę na swoim poziomie abstrakcji. Najpierw te sieci mają minimalny sukces, ale ich błędy — i to ważne — również w nich są kodowane. Stopniowo stają się coraz mądrzejszy i sprytniejszy, eksperymentując z różnymi strategiami i otrzymując nagrodę w przypadku sukcesu. Jeśli program przenosi kawałek szachy i w rezultacie przegrywa grę, więcej takiego błędu nie popełni. Duża część magii sztucznej inteligencji polega na prędkości, z jaką powtarza te zadania.

Praca DeepMind osiągnął swój szczyt w 2016 roku, kiedy zespół opracował program sztucznej inteligencji, w której użyto szkolenia z posiłkami wraz z innymi metodami gry w go. Program pod nazwą AlphaGo wywołała zdziwienie po tym, jak ograła mistrza świata w meczu z pięcioma grami w Seulu w 2016 roku. Zwycięstwo maszyny, którą obserwowali 280 milionów osób, zdarzyło się dziesięć lat wcześniej, niż przewidywali maszyny. W przyszłym roku ulepszona wersja AlphaGo pokonała mistrza Chin w roku.

Jak Deep Blue w 1997 roku, AlphaGo zmienił postrzeganie ludzkich osiągnięć. Mistrzowie wśród ludzi, błyskotliwe umysły naszej planety, nie stanęli na szczycie własności piramidy. Po prawie 20 lat po tym, jak Хассабис powiedział o swoich ambicjach Фудзувере, on je wypełnił. Хассабис powiedział, że ten mecz doprowadził go do łez. Pozostał wdzięczny Мэтьюзу.

DeepBlue wygrał dzięki brutalnej sile i szybkości obliczeń, ale styl AlphaGo wydawał artystycznym, prawie ludzkim. Jego изощество i wyrafinowanie, wyższość obliczeniowej siły, wydawało się, pokazywali, że DeepMind wyprzedził konkurentów w tworzeniu programu, który będzie w stanie leczyć choroby i zarządzania miastami.

DeepMind i sztuczna inteligencja

Хассабис zawsze mówił, że DeepMind zmieni świat na lepsze. Ale w ОИИ nie ma żadnej pewności. Jeżeli kiedykolwiek pojawi się, nie wiemy, będzie to lepiej lub gorzej, czy będzie on podlegać ludzkiej kontroli. Jeśli będzie, kto będzie trzymał stery?

Od samego początku Хассабис obronić niepodległość DeepMind. Zawsze nalegał, aby DeepMind pozostał w Londynie. Kiedy Google kupił firmę w 2014 roku, pytanie o kontroli stał się bardziej aktualny. Хассабису nie trzeba było sprzedawać DeepMind Google. Gotówki brakowało, i zapisał model biznesowy, w ramach której firma będzie tworzyć gry na finansowanie badań. Pieniędzy w Google obiecał wiele, ale nie chciał przekazywać firmę, którą on wychował. W ramach transakcji DeepMind stworzyła umowy, który nie pozwolił Google wjednostronnie przejąć kontrolę własności intelektualnej firmy. W roku poprzedzającym nabycia, według źródeł, obie strony podpisały umowę — Porozumienie o przestrzeganiu etyki i bezpieczeństwa. To porozumienie zostało sporządzone starszych prawników w Londynie.

Umowa przekazuje kontrolę nad głównym technologii ОИИ DeepMind, jeśli zostanie ona utworzona, w ręce syndyka Rady etyki. Według tego samego źródła, Rada etyki wcale nie jest kosmetycznej bilans ze strony Google, a zapewnia niezawodną obsługę prawną DeepMind aby zachować kontrolę nad jego najcenniejszą i potencjalnie najbardziej niebezpieczne technologią. Imiona i nazwiska członków komisji nie zostały upublicznione, ale innego źródła zbliżone do DeepMind, i do Google, poinformował, że cała trójka założycieli DeepMind wchodzą do Rady. Sama firma nic nie ujawnia.

Хассабис może zadecydować o losie DeepMind i innymi metodami. Jeden z nich — lojalność. Pracownicy, zarówno dawne, jak i obecne, mówią, że program badań Хассабиса jest jedną z mocnych stron DeepMind. Jego program, który oferuje fascynującą i ważną pracę, bez nacisku ze strony środowisk naukowych, przyciągnęła setki najbardziej utalentowanych ekspertów na świecie. U DeepMind istnieje podrzędne biura w Paryżu i Alberta. Wielu pracowników czuje większą więź z Хассабисом i jego misją, niż z jego korporacyjnym rodzicem, który potrzebuje tylko dochody. Aż Хассабис zachowuje osobiste zaangażowanie, on ma dużo władzy nad swoim jedynym udziałowcem. Lepiej niech talenty działają na DeepMind zdalnie, niż są w Facebook czy Apple.

U DeepMind jest jeszcze jedno źródło wahaczy, choć wymaga stałego uzupełniania: pomyślny aureola. Firma w tym się udało. AlphaGo był świetną reklamą. Po dokonaniu zakupu, Google, firma wielokrotnie produkowała cuda, które przyciąga uwagę całego świata. Jeden z przykładów oprogramowania może wykrywać wzorce podczas skanowania oczy, które są wskaźnikami zwyrodnienia plamki żółtej. Inny program nauczyła się grać w szachy od podstaw, wykorzystując architekturę, podobne do AlphaGo, i stała się największym graczem wszech czasów tylko przez dziewięć godzin gry za sobą. W grudniu 2018 roku program AlphaFold okazała się bardziej dokładne, niż konkurenci, w przewidywaniu trójwymiarowej struktury białek z listy składników, potencjalnie zdolnych leczyć takie choroby Parkinsona i Alzheimera.

DeepMind szczególnie dumny z opracowanymi algorytmami, które liczą się najbardziej skuteczne środki chłodzenia centrów danych Google, które zawierają około 2,5 miliona komputerowych serwera. W 2016 roku DeepMind oświadczyła, że zmniejszyła koszty Google energii elektrycznej o 40%. Ale niektórzy znawcy mówią, że to chwalenie się na wyrost. Google używał algorytmy do optymalizacji swoich centrów na długo przed pojawieniem się DeepMind. Istnieje opinia, że DeepMind zawyża swoje zasługi, aby kupić wartość w oczach Alphabet. Nadrzędna firma Google Alphabet płaci DeepMind za podobne usługi. W 2017 roku najnowsza wystawionej Alphabet konto na 54 miliony funtów. Liczby te blado w porównaniu z kosztami pobrania DeepMind. W tym samym roku wydała 200 milionów funtów na personel. W sumie, w 2017 roku DeepMind straciła 282 milionów funtów.

To grosze dla bogatego giganta. Ale inne spółki zależne Alphabet przyciągnęły uwagę Ruth Porat, skąpy dyrektora finansowego Alphabet. Google Fiber, próba zbudowania dostawcy usług internetowych, wstrzymania, po tym, jak stało się jasne, że inwestycja będzie się opłacać przez dziesięciolecia. Badacze AI również zastanawia się, "запоратят" czy DeepMind.

Stopniowe ujawnianie osiągnięć DeepMind w dziedzinie AI jest częścią strategii, stopniowo выстраивающей reputację firmy. Jest to szczególnie cenne w czasie, gdy Google oskarżony o naruszenie prywatności użytkowników i dystrybucji фейковых wiadomości. DeepMind również szczęście zdobyć zwolennika na najwyższym poziomie: Larry Page, jeden z dwóch założycieli Google, obecnie prezes Alphabet. Paige jest bardzo zbliżony do Хассабису. Ojciec Paige — Karl — studiował нейросети w latach 1960-tych. Na początku swojej kariery Page powiedział, że stworzył Google wyłącznie do tego, aby założyć firmę AI.

Starannej kontroli DeepMind nad prasą nie odpowiada akademickiej ducha, który przenika firmę. Niektórzy naukowcy narzekają, że jest im trudno opublikować swoją pracę: muszą pokonać warstwy wewnętrznej zgody, zanim będą nawet w stanie złożyć pracę na konferencję lub w dzienniku. DeepMind uważa, że należy działać ostrożnie, aby nie przestraszyć publiczność perspektywą ОИИ. Ale zbyt twarde zarzuty mogą zepsuć akademickiej atmosfery i osłabić lojalność pracowników.

Pięć lat Później po zakupie Google pytanie o to, kto kontroluje DeepMind, staje się krytyczna. Założyciele i pierwsi pracownicy firmy zbliżają się do tego progu, kiedy mogą wyjść z finansowego odszkodowania, którą otrzymali od zakupu spółki (akcje Хассабиса prawdopodobnie kosztować około 100 milionów funtów). Ale źródła zbliżone do firmy, zakłada, że Alphabet odsunęła wypłaty założycielami na kilka lat. Biorąc pod uwagę swoje nieustające ostrość, Хассабис raczej nie opuści statek. On interesuje się pieniędzmi tylko w takim zakresie, ponieważ pomagają mu w podejściu cel całego życia. Ale niektórzy koledzy odeszli. Trzy inżyniera AI opuścili firmę od początku 2019 roku. Ben Laurie, jeden z najwybitniejszych inżynierów bezpieczeństwa w świecie, wrócił w Google. To, oczywiście,nie tak wiele, ale DeepMind oferuje taką niesamowitą misję i godziwe wynagrodzenie, że odchodzą i nikt nie musi.

Póki co Google nie bardzo przeszkadzał DeepMind. Ale jedno ostatnie zdarzenie wywołało zaniepokojenie z powodu tego, jak długo firma będzie w stanie utrzymać swoją niezależność.

DeepMind, medycyna i sztuczna inteligencja

DeepMind zawsze planowałam użyć SI do poprawy zdrowia. W lutym 2016 roku utworzono nową jednostkę organizacyjną DeepMind Health, na czele z Мустафой Sulaimanem, jednym z założycieli firmy. Sulejman, którego matka była pielęgniarką, miał nadzieję na stworzenie programu pod nazwą Streams, który ostrzegał, by lekarzy o pogorszeniu się stanu zdrowia pacjenta. DeepMind otrzymywał wynagrodzenie w zależności od wyników. Ponieważ praca ta wymagała dostępu do poufnych informacji o pacjentach, Sulejman stworzył Niezależną ekspertów komisji (IRP), który dostał dobre angielskie specjaliści w dziedzinie opieki zdrowotnej i technologii. DeepMind był wystarczająco mądry, aby to wisi. Później brytyjski informacyjny komisarz stwierdził, że jeden z partnerów wśród szpitali naruszył prawo przy przetwarzaniu danych pacjentów. Niemniej jednak, do końca 2017 roku Sulejman podpisał umowy z czterema największymi szpitalami.

8 stycznia 2018 roku Google poinformowała o utworzeniu własnego działu opieki zdrowotnej — Google Health. Pięć dni później ogłosili, że DeepMind Health powinna przyłączyć się do wysiłków spółki dominującej. DeepMind nikt nie ostrzegał. Według informacji uzyskanych z wniosków o dostępie do informacji, ona powiadomiła o zmianie szpitala-partnerzy dopiero za trzy dni. DeepMind chciała informować, kiedy rozpoczęły się dyskusje na temat fuzji, jednak powiedziała, że w krótkim okresie pomiędzy zawiadomieniem i publicznym ogłoszeniem w interesie przejrzystości. W 2016 roku Sulejman napisał, że "dane pacjenta nigdy nie będą związane z kontami, produktami lub usługami Google". Jego obietnica, wydawało się, że zostało naruszone.

Aneksji Google wkurzyłaś pracowników DeepMind Health. Według osób zbliżonych do zespołu opieki zdrowotnej, coraz więcej pracowników planują opuścić firmę po zakończeniu procesu przejęcia.

Ten odcinek pokazuje, że peryferyjnych części pracy DeepMind narażone na Google. DeepMind oświadczyła, że "wszyscy zgodzili się z tym, że ma sens połączyć te wysiłki w jednym wspólnym wysiłku z narosłymi zasobami". To powoduje, że pytanie o to, czy Google stosować tę samą logikę do pracy DeepMind nad ОИИ.

Jeśli patrzeć ambitnie, DeepMind osiągnęła wiele sukcesów. Ona już stworzyła oprogramowanie, które może uczyć się wykonywać zadania na nadprzyrodzonych poziomie. Хассабис często odwołuje się do Breakout, gry wideo dla konsoli Atari. Gracz kontroluje nietoperza, który może poruszać się poziomo i z jej pomocą uderza piłkę, kierując ich w bloki powyżej, które są niszczone podczas zderzenia. Gracz wygrywa, gdy wszystkie bloki zniszczone. Przegrywa, jeśli piłka spada obok platformy. Bez ludzkich instrukcji program DeepMind nie tylko nauczyła się grać w tę grę, ale i rzucać piłki w przestrzeń za blokami, aby wykorzystać przewagę odbija. To pokazuje siłę szkolenia z posiłkami i nadprzyrodzone zdolności programów komputerowych DeepMind.

Demonstracja, oczywiście, jest imponująca. Ale Хассабис coś milczy. Jeśli wirtualną platformę podnieść, choć nieco wyżej, program popełni błąd. Umiejętności, które nabył program DeepMind, jest tak ograniczony, że nie może reagować nawet na małe zmiany w środowisku, które człowiek mógłby z łatwością pokonać. Ale na świecie istnieje wiele subtelności. Do diagnostyki inteligencji nie ma dwóch takich samych organów ciała. Do mechanicznego inteligencji dwa podobne silnika nigdy nie będą takie same w konfiguracji. Dlatego wydanie programów w dziką przyrodę powiązany z trudnościami.

Po Drugie, o czym rzadko się mówi DeepMind, polega na tym, że sukces w środowiskach wirtualnych w zależności od dostępności funkcji wynagrodzenia: sygnał, który pozwala oprogramowania mierzyć swoje postępy. Program dowiaduje się, że рикошетирование od tylnej ściany zwiększa jej koszt. Duża część pracy DeepMind z AlphaGo polegała na tworzeniu funkcji wynagrodzenia, zgodnego z taka wymagająca gra. Niestety, prawdziwy świat nie oferuje prostych nagród. Postęp rzadko mierzona poszczególnymi punktami. Ludzki mózg otrzymuje sygnał o sukcesie zadania bezpośrednio w trakcie jej wykonywania, a nie po.

DeepMind znalazła sposób, aby to obejść, wykorzystując ogromną ilość mocy obliczeniowej. AlphaGo gra w gry tysiące lat ludzkiej czasu, aby się czegoś nauczyć. Wielu filozofów AI podejrzewają, że to rozwiązanie jest nie do przyjęcia dla zadań, które oferują bardziej słabe wynagrodzenie. DeepMind uznaje istnienie takich niejasności. Niedawno zajęła się StarCraft 2, komputerowej strategią. Decyzje podjęte na początku gry, mają swoje konsekwencje, które pojawiają się później, co jest dość charakterystyczne dla krętej i refleksja sprzężenia zwrotnego rzeczywistych zadań. W styczniu oprogramowanie DeepMind обыграло kilku najlepszych graczy na świecie, i to było bardzo imponujące, nie zważając na sztywne ograniczenia. Programy również zaczęli studiować funkcji wynagrodzenia, zgodnie z opinii ludzi. Ale włączenie ludzkich instrukcji w cyklu stwarza ryzyko utraty skali i prędkości.

Obecni, jak i byli naukowcy z DeepMind i Google na warunkach anonimowości wyrazili sceptycyzm w tym, że DeepMind jest w stanie osiągnąć ОИИ za pomocą takich metod. Dla nich dążenie do osiągnięcia wysokiejwydajność w symulowanych środowiskach utrudnia rozwiązanie problemu funkcji wynagrodzenia. I właśnie takie podejście leży u podstaw DeepMind. W firmie jest wewnętrzna konkurencja, gdy programy konkurencyjnych drużyn walczą o dominację.

Хассабис zawsze widział życie jak grę. Duża część jego kariery został poświęcony ich tworzenia, duża część jego wolnego czasu została przeznaczona na proces gry w nich. W DeepMind wykorzystuje je do tworzenia silnej sztucznej inteligencji. Jak i jego oprogramowanie, Хассабис uczy się na własnym doświadczeniu. Pościg za ОИИ może ostatecznie prowadzić w ślepy zaułek, jednocześnie wymyślając przydatne technologie medyczne i pokonując najlepszych w swojej umiejętności graczy. Ale może również utworzyć ОИИ tuż pod nosem Google, ale poza jego kontrolą. I jeśli mu się to uda zrobić, Demis Хассабис wygra w najbardziej wymagające gry z wszystkich.

Porozmawiaj o artykuł .

Na podstawie materiałów 1843magazine, Hal Ходсон

Bardziej:

Pracować z PDF trudne? Wypróbuj aplikację

Pracować z PDF trudne? Wypróbuj aplikację

PDFelement — potężny kombajn do pracy z PDF Wielu z nas tak czy inaczej trzeba pracować z dokumentami w formacie PDF. Jednym jest potrzebny w biurze, inni po prostu wolą udostępniać dokumentację w formacie PDF, ponieważ jest łatwy w obsłudze i ...

Jak rozpocząć pracę z nauką нейросетей

Jak rozpocząć pracę z nauką нейросетей

Bez uczenia maszynowego nie może działać żadna sieć neuronową Jeszcze kilka lat temu нейросети były czymś dziwaczne. Teraz narzędzie uczy się coraz więcej ludzi. Przy czym ta branża rozwija się w niesamowitym tempie: niedawno нейросети uczyły się mal...

Dlaczego w Chinach zaczął hodować świnie wielkości niedźwiedzia polarnego?

Dlaczego w Chinach zaczął hodować świnie wielkości niedźwiedzia polarnego?

Świnie mogą ważyć więcej ton W artykule o skuteczne tworzenie wspomniano, że jest jednym z największych konsumentów mięsa wieprzowego. Jednak, w tej chwili w Azji jest powszechnie stosuje tzw. afrykański pomór świń. Ta choroba nie jest dla ludzi na n...

Uwaga (0)

Ten artykuł nie ma komentarzy, bądź pierwszy!

Dodaj komentarz

Nowości

U Ilona Maska były cholernie trudne dwa tygodnie

U Ilona Maska były cholernie trudne dwa tygodnie

Wygląda na to, że Ilona Maska chaos naprawdę rządzi. Biznesmeni zazwyczaj lubią przedstawiać się jako stabilnych filarów społeczeństwa, które zasługują na zaufanie. Na ich tle Musk wygląda chuliganem. Gdyby zachowywał się jak, pow...

TOP-8 serwisów online-księgowość dla firm

TOP-8 serwisów online-księgowość dla firm

Na rynku są usługi online do prowadzenia księgowości na każdy gust i inne potrzeby. Aby ułatwić państwu wybór, zrobiliśmy mały analiza rynku i utożsamiali 8 "najbardziej". Zobaczymy, jakie mają plusy i minusy, a następnie postaram...

Zakaz zakupu monet i wydobywanie w Rosji. Co to znaczy?

Zakaz zakupu monet i wydobywanie w Rosji. Co to znaczy?

12 marca bank centralny wydał swoje poprawki do projektu ustawy o cyfrowych finansowych aktywach, w których zaproponował, aby ograniczyć zakupy криптовалютных aktywów dla niewykwalifikowanych inwestorów. Mówiąc prościej — mo...

Nowe, bezpieczne reaktory jądrowe mogą zatrzymać zmiany klimatu, ale boją się budować

Nowe, bezpieczne reaktory jądrowe mogą zatrzymać zmiany klimatu, ale boją się budować

W 2018 roku naukowcy ogłosili surowe wiadomość: mimo niepokój na temat globalnego ocieplenia, kosztem węgla opracowano 38% światowej energii elektrycznej w 2017 roku — czyli dokładnie tyle samo, ile i po pojawieniu się pierwszych ...

Połowa firmach z AI faktycznie nie korzystają sztuczna inteligencja

Połowa firmach z AI faktycznie nie korzystają sztuczna inteligencja

w Ciągu ostatnich kilku nie pojawiło się wiele nowych firm, które mówią o tym, że używają sztucznej inteligencji w swoich opracowaniach. Ale czy tak jest w rzeczywistości? Londyńska венчурная firma MMC studiował działalność prawie...

Jak władze w Moskwie obserwują ruchy obywateli (i ile to kosztuje)

Jak władze w Moskwie obserwują ruchy obywateli (i ile to kosztuje)

od Dawna istnieje przekonanie, że nasze smartfony nagrywają wszystko, co dzieje się wokół nich i przekazać osobom trzecim, które będą mogli wykorzystać uzyskane dane do czynnika w doborze reklam. Potwierdzenie tego do tej pory nie...

Nad czym pracują najbardziej wartościowe na świecie firm w dziedzinie AI?

Nad czym pracują najbardziej wartościowe na świecie firm w dziedzinie AI?

rozpoznaje twarzy. On wie, jakie filmy mogłyby ci się spodobać. Być może będzie on w stanie polecić najlepsze leczenie konkretnie pod twój przypadek. Sztuczna inteligencja i jej podgrupa dyscyplin — takich jak uczenie maszynowe, p...

Odmowa dostępu: top 7 najlepszych anonimowych monet

Odmowa dostępu: top 7 najlepszych anonimowych monet

Криптовалюты — temat jest złożony, dlatego mitów w niszy w bród. Na przykład, wiele osób uważa Btc jest całkowicie anonimowe monetą, która nie pozostawia śladów. Stwierdzenie to jest prawdziwe częściowo: jeśli spróbujesz i powiąza...

Tesla straciła miliard dolarów w 2018 roku, ale Elon Musk nie zniechęcił

Tesla straciła miliard dolarów w 2018 roku, ale Elon Musk nie zniechęcił

W zeszłym roku firma Tesla boryka się z mnóstwem problemów. Jak się okazało, wszystko to mocno uderzyło w jej stanu finansowego — firmowe raport pokazał, że w 2018 roku firma straciła prawie 1 miliard dolarów. Na tle tej wiadomośc...

Firma TKEY DMCC tworzy niezależny serwis płatności Tkeycoin

Firma TKEY DMCC tworzy niezależny serwis płatności Tkeycoin

Firma TKEY DMCC kończy etap przygotowań do uruchomienia uniwersalnego usługi płatności mobilnych w oparciu o блокчейн technologii i infrastruktury . Nowy system jest bardzo ułatwi i przyspieszy procedurę transferu środków, sprawi,...

Alexa ogarnia cały świat. Wkrótce zacznie się gotować kawy i oferować odpocząć

Alexa ogarnia cały świat. Wkrótce zacznie się gotować kawy i oferować odpocząć

kask? Tak, działa z Alexa. Sterownik nawadniania Rachio 3? Tak, też działa. A co powiesz na tego gościa, który gra z klawiaturą Roland? Naprawdę? Stoisko Amazon z Alexa na targach CES, które odbyły się w zeszłym tygodniu w Las Veg...

Miliard juanów: korupcja w DJI doprowadziła do największej kradzieży w historii chińskich technologii

Miliard juanów: korupcja w DJI doprowadziła do największej kradzieży w historii chińskich technologii

Jak donosi Bloomberg i inne źródła, największy na świecie producent dronów DJI powiedział, że z powodu oszustwa pracowników poniesie straty w wysokości miliarda juanów (150 milionów dolarów). Firma oświadczyła, że zwolniła kilku p...

Znowu plotki: Intel może kupić AMD

Znowu plotki: Intel może kupić AMD

Chyba trudno nazwać bardziej zaciekłą walkę, niż między i AMD. I oto teraz, kiedy plotki na temat przejęcia jednej firmy inny znów rośnie w siłę, pozostaje nam tylko rozpalać dyskusję. CES zakończyła się i nagły brak generalnego d...

Chiny zaproponował Ilona Maskę zamieszkać. STANY zjednoczone warto się zastanowić

Chiny zaproponował Ilona Maskę zamieszkać. STANY zjednoczone warto się zastanowić

Wygląda na to, Elon Musk znalazł sobie zapasowe lotnisko — i nie, nie na powierzchni Księżyca. Podczas wizyty twórcy Tesla i SpaceX w Chiny lokalny rząd dał przedsiębiorcy chińską "zieloną kartę", która pozwala na Maskę stać...

"Poczta Rosji" będzie zdalnie pobierać opłaty przy zakupie powyżej 500 euro

Od 1 stycznia 2019 roku bezcłowy próg obniżony dwa razy i wynosi 500 euro na zakupy w sklepach on-line, które są wykonane w ciągu jednego miesiąca. Do tej pory nie było jasne, w jaki sposób klienci będą płacić cło w przypadku prze...

Btc — wszystko? Dlaczego kryptowaluta przebiła cenę 3800 dolarów i nadal spadać?

Btc — wszystko? Dlaczego kryptowaluta przebiła cenę 3800 dolarów i nadal spadać?

Dla tych, którzy z własnej woli lub przypadkowo znalazł się w криптовалютном świecie w grudniu 2017 lub styczniu 2018 roku, закупившись workami bitcoinów, obserwować to, co dzieje się teraz — bardzo boli. W tym tygodniu cena po ra...

Aktualizacje Tkeycoin zwiększyły potencjał projektu

Aktualizacje Tkeycoin zwiększyły potencjał projektu

Firma TKEY DMCC przeprowadziła szeroko zakrojone обновлене projektu Tkeycoin i jego technologicznego komponentu. Ważne zmiany zaszły na wszystkich poziomach, od projektowania i napełniania oficjalnej zasobu sieciowego , do archite...

Elon Musk może stracić stanowisko szefa Tesla i innych firm

Elon Musk może stracić stanowisko szefa Tesla i innych firm

Przykrych wiadomości założyciel firm PayPal, SpaceX i Tesla Ilona Maska może zniszczyć jego karierę. W sierpniu 2018 roku miliarder nagle ogłosił, że . Im od razu , tak jak publikując ważne informacje służbowe bez ostrzeżenia inwe...

Kolejność postów na Twitterze znów będzie odpowiedni

Kolejność postów na Twitterze znów będzie odpowiedni

W 2016 roku Twitter ma algorytmu, który tworzy kanał na podstawie działań kont, które subskrybujesz. W końcu na pierwszych pozycjach listy są popularne posty napisane kilka godzin temu, a nowe stanowiska znajdują się poniżej. Więk...

Xerox ConnectKey: jak włączyć drukarkę w smartphone

Xerox ConnectKey: jak włączyć drukarkę w smartphone

Nie jest tajemnicą, że biurowe urządzenia wielofunkcyjne w ciągu ostatnich kilku lat mocno ewoluował i przestały "po prostu drukować, skanować i kopiować", a zamieniły się w pełne pomocników w pracy z dokumentami. Podłączeniem tel...