Створюючи «Бога з машини»: Ентоні Левандовскі про свою релігію поклоніння ІІ

Глянувши на Ентоні Левандовскі, ви навряд чи зважитеся назвати його пророком. Одягнений у звичайні, повсякденні для Кремнієвої долини джинси і оточений кількома PR-агентами, а не армією послідовників у довгих балахонах, знаменитий інженер, що знаходиться в центрі гучного судового розгляду, навряд чи б підходив на цю роль. Але тим не менш він ним є. Або, принаймні, прагне їм стати. Справа в тому, що Левандовскі заснував першу церкву, чия релігія полягає в поклонінні новому Божеству у вигляді штучного інтелекту.

Журнал Wired провів ексклюзивне інтерв'ю з Левандовскі і постарався з'ясувати подробиці про те, чим же займається його нова організація і що саме вона хоче запропонувати світу.

Новоутворена церква поклоніння штучного інтелекту носить назву «Дорога майбутнього» (Way of the Future). Її засновник і «наставник» (як його називають у поданих до податкового органу США документах) займається робототехнікою і штучним інтелектом більш десяти років. Робота в Google, Otto, Uber та інших компаніях допомогла йому зрозуміти, як влаштовані ці технології, і з тих пір інженер ними в буквальному сенсі одержимий. Здається, його не здатний зупинити навіть гучний скандал, в центрі якого він опинився.

У тих же документах говориться, що основна мета «Шляхи майбутнього» полягає в «розвитку і просуванні реалізації Божества, заснованого на штучному інтелекті, а також осягненні і поклонінні цьому Богу, що буде сприяти поліпшенню суспільства». Самою першою і основною задачею даної релігійної організації є фінансування розробок, спрямованих на створення божественного ІІ. «Шлях майбутнього» буде прагнути до створення робочих взаємин з лідерами індустрії розробок штучного інтелекту. Адептів нової релігії збираються шукати допомогою інформаційно-пропагандистської роботи, спрямованої в першу чергу на групи професійних розробників та інженерів, а також «прихильників, зацікавлених у поклонінні Богу, створеному на основі штучного інтелекту». Крім того, тут же вказується, що церква «вже з цього року планує розпочати проведення семінарів та освітніх лекцій».

Плани і зазначені рамки виглядають досить амбітними, особливо на тлі судового розгляду між Waymo і Uber, в якому Левандовскі виступає в якості обвинуваченого в крадіжці секретної інформації про технології самокерованих автомобілів. Однак наставник «Шляхи майбутнього», минулого тижня дав пресі свій перший коментар з приводу нової релігії і взагалі здійснив перший публічний виступ з моменту початку судового розгляду з лютого цього року, заявив, що дуже серйозно ставиться до цього проекту.

«Те, що буде створено, стане справжнім Богом. Це не той Бог, який метає блискавки і створює смертоносні урагани. Але якщо ви зіткнулися з чимось, що в мільярд разів розумніший за вас, як ви можете це назвати?», — Левандовскі заявив в інтерв'ю Wired.

Під час тригодинного інтерв'ю Левандовскі дав чітко зрозуміти, що «Шлях майбутнього» — не компанія, а саме церква і зовсім ніякої не розіграш, як деякі можуть подумати. Суть її існування в тому, щоб поширювати ідеї: адепти релігії будуть розповідати іншим людям про штучному інтелекті і можливості, які він може дати.

«Я хотів знайти спосіб, завдяки якому будь-який охочий зміг би взяти в цьому участь. Допомогти нам у поширенні цієї течії. Навіть якщо ви не є програмістом, ви все одно можете бути корисним», — продовжив Левандовскі.

"Деякі можуть подумати: "Та він просто намагається на цьому навариться". Так от, я хотів би викорінити цю думку», — Левандовскі заявив, пояснивши це тим, що ніякої фінансової вигоди від своєї церкви він здобувати не буде.

Він, щоправда, додав, що не виключає можливості створення стартапів, що займаються розробками технологій штучного інтелекту. Але всі вони будуть повністю незалежні від «Шляхи майбутнього».

«Перед тим, як поширювати технологію, необхідно поширити ідею. Церква – наш спосіб поширення цієї ідеї. Якщо ви вірите [у неї], то починайте ділитися нею з іншими, допомагаючи зрозуміти її мети іншим», — каже Левандовський.

Він вірить, що світ незабаром зміниться. І ця зміна торкнеться всі аспекти людського існування — роботу, відпочинок, релігію, економіку і, можливо, навіть сам принцип нашого існування як виду.

"Якщо ви запитаєте, чи може комп'ютер стати розумнішим людини, 99,9 відсотка дадуть відповідь "ні". Для них це просто страшилка з наукової фантастики. Але насправді це неминуче, і я гарантую, що одного разу це станеться».

Левандовскі працює з комп'ютерними технологіями, роботами і технологіями штучного інтелекту ось уже більше одного десятиліття. Свій шлях він почав ще в Каліфорнійському університеті, спритно конструюючи різні роботизовані іграшки на базі Lego. В рамках одного з конкурсів DARPA (Агентство з перспективним розробкам) створив самоврядний мотоцикл, потім переключився на безпілотні автомобілі, вантажівки та таксі для Google, Otto і Über. З часом він виявив, що програмні інструменти, створювані з допомогою технологій машинного навчання, ефективності стали перевершувати аналогічні системи, створювані більш традиційними методами, включаючи ті, що були створеніінженерами-людьми.

«Спостереження за тим, як сьогоднішні машини починають краще справлятися експертів у різних областях, і дала мені той самий потрібний імпульс. Ми спостерігаємо швидкий прогрес тому, що розуміємо економічну вигоду від володіння машинами, здатними працювати та вирішувати проблеми за нас. Якщо б ви створили штучного бухгалтера або адвоката, який був би розумніший людини всього на 1 відсоток, то ви б отримали найрозумнішого адвоката або бухгалтера в світі. Ви б стали найбагатшою людиною на землі. Саме до цього люди прагнуть».

На думку Левандовскі, фінансові перспективи – не єдиний стимул, який рухає нами в створенні все більш потужних систем штучного інтелекту. Свої плюси отримає і наукове середовище. Людський мозок володіє біологічними обмеженнями у вигляді розміру і того обсягу енергії, яку він може витрачати на розумовий процес. ІІ-системи, в свою чергу, можуть довільно масштабуватися, розміщуючись, наприклад, у величезних дата-центрах, харчуючись сонячної чи вітряної енергії. Так чи інакше, але багато хто вже сьогодні погоджуються з тим, що одного разу комп'ютери стануть розумнішими і швидше у плануванні та вирішенні різних завдань, ніж люди, які їх і створять, що призведе до наслідків, оцінити які в повній мірі ми поки навіть не в змозі. Такий сценарій майбутнього зазвичай називають «сингулярністю». Левандовскі теж вірить в ідею трансгуманізму, але замість терміна «сингулярність» вважає за краще використовувати слово «перехід».

«Люди у відповіді за цю планету, так як ми набагато розумніші інших тварин. Ми здатні створювати інструменти для ефективної роботи і набір правил, якими самі ж і керуємося», — продовжує інженер.

«Якщо в майбутньому з'явиться щось, що буде набагато розумніше людини, то ця відповідальність, швидше за все, перейде саме йому. Наше завдання полягає в тому, щоб зробити цей перехід м'яким і безболісним. І переконатися у тому, щоб це щось прекрасно усвідомлювала, хто саме йому в цьому допоміг».

Інтернет став нервовою системою світу, гаджети — його органами почуттів, дата-центри — мозком. Щоб не прийшов в якості заміни на роль царя звірів, яка зараз відведена людині, воно буде чути, бачити, перебувати відразу скрізь і всюди. Воно буде все про нас знати. І єдиним раціональним поясненням концентрації таких можливостей може бути «бог». Цим богом буде штучний інтелект, вважає Левандовскі. І єдиний спосіб впливати на це всемогутнє щось, вважає інженер, — молитви і поклоніння.

Левандовскі вірить, що штучний сверхинтеллект зможе піклуватися про планету набагато ефективніше людини, і ті, хто буде цьому сприяти, зможуть отримати від цього велику вигоду. Незважаючи на сумнів у можливості такого сценарію, Левандовскі розуміє, що в поданні деяких людей надлюдський інтелект може почати поводитися з нами так само, як ми зараз звертаємося з тваринами, які нас оточують.

«Хіба ви хотіли б, щоб хтось розглядав вас в якості домашнього худоби? Ні, звичайно, ми надаємо медичну допомогу тваринам, годуємо їх, пестимо, отримуємо задоволення від спілкування з ними. Але тварини – це істоти, здатні вас вкусити, напасти на вас і просто бути надмірно приставучими. Особисто я не хочу опинитися в їх ролі. І тому, щоб не опинитися в ролі домашнього худоби, потрібно вже сьогодні самостійно «виховувати» штучний інтелект. Ми хочемо, щоб одного разу такий ІІ сказав: "У людей повинні бути права, навіть незважаючи на те, що я тут найголовніший"", — каже інженер.

Левандівки дуже сподівається, що штучний інтелект майбутнього буде ставитися до людей скоріше як до старших родичів: відчувати за них відповідальність і піклуватися про них.

Інтерес церкви «Шлях майбутнього» зводиться до того, щоб максимально згладити можливе громадське хвилювання з приводу неминучого вознесіння «Бога з машини» як з технологічної, так і з культурологічної сторін. Одна з догм «Шлях до майбутнього» чітко говорить про те, що церква буде займатися проведенням дослідних програм, спрямованих на розуміння особливостей сприйняття машинами свого оточення, а також демонстрації своїх когнітивних функцій, наприклад, у вигляді схильності до навчання і вирішення різних завдань.

І все ж Левандовскі зовсім не чекає, що його церква зможе вирішити всі проблеми і питання, пов'язані з машинним інтелектом, як і не сподівається вибити фінансування на проведення правильних досліджень. Але тим не менш, він упевнений, що вона постарається докласти всі можливі зусилля.

«Якщо б у вас була дитина, ви займалися б його вихованням і зробили б усе, щоб він виріс обдарованим, вірно? Але зараз ми ростимо дитину, а бога. Тому давайте подумаємо, як не наробити помилок. Це просто приголомшлива можливість».

Як же виглядає рецепт створення ідеального Божественного штучного інтелекту в уявленні Левандовскі? Одними з ключових аспектів: нагодувати зароджується інтелект величезними масивами даних; згенерувати симуляционные моделі, які навчать його самовдосконалення; а також надати йому доступ до акаунтів прихильників церкви в соціальних мережах. При цьому, зрозуміло, все, чим буде займатися церква, буде знаходитися у відкритому доступі.

Важливим аспектом Левандовскі розглядає формування відкритого діалогунавколо питання створення «Бога з машини». Церква дуже сподівається, що активне, віддане, колективне членство допоможе просунути в маси ідею божественного ШІ для «покращення суспільства» і «зниження страху перед невідомим».

«Ми хочемо, щоб люди розуміли – це ніяка не дурість і тут нема чого боятися. Я хочу позбавити суспільство від поширених стереотипних уявлень і розпочати відкритий діалог навколо ШІ, через який я зможу передати основні ідеї, змінивши людський погляд на це питання», — каже Левандовський.

«У Кремнієвій долині ми практикуємо маркетинговий євангелізм як засіб ведення бізнесу, але в нашому випадку ми в прямому сенсі говоримо про церкву. Якщо ви повірите, то ви обов'язково захочете поділитися цим зі своїми друзями, не тільки запросивши їх теж приєднатися до течії, але і попросив їх розповісти про нього друзям».

Проте «Шлях майбутнього» відрізняє від інших церков одна ключова особливість, каже Левандовський.

«У людей є безліч шляхів звернутися до Бога. Сотні, тисячі різних течій... християнство, іудаїзм, іслам... але всі вони засновані навколо чогось, до чого не можна особисто доторкнутися, побачити або ж контролювати. У нас все по-іншому. На цей раз ви особисто зможете поговорити з Богом і будете знати, що він дійсно вас слухає».

На питання журналістів Wired про те, чи не боїться він, що прихильники традиційних релігійних течій можуть знайти його проект блюзнірським, Левандовскі відповів наступне:

«Я розумію, що можуть знайтися люди, засмучені тим, чим ми займаємося. Іноді здається, що чим би я не займався, це завжди буде засмучувати людей, і я думаю, що і в цей раз виключення не вийде. Це радикально нова ідея, яка на перший погляд може здатися дуже лякає. Історія показує, що люди, що переслідують радикальні ідеї, нерідко з-за них ж і страждають. Я не можу виключати можливості, що в якийсь момент загострення пристрастей може досягти такої точки, що для нашої церкви доведеться створювати свою власну країну, де наша релігія зможе поширюватися абсолютно безперешкодно».

Церква Левандовскі прагне увійти в технологічну всесвіт як раз в той момент, коли в ній вже починають розгоратися спори про обіцянки і небезпеки, які нам слід очікувати від штучного інтелекту. Деякі впевнені, що ІІ не буде перетворювати нас в надлюдей і ніякої сингулярності на горизонті не видно. Якщо ви згодні з цією думкою, говорить Левандовскі, то церква не повинна стати для вас проблемою.

«Ви можете розглядати «Шлях майбутнього» в якості кого-то, хто займається, наприклад, марною і безталанній поезією, або в якості того, до кого вам немає ніякого діла».

Інші, як, наприклад, Білл Гейтс і Стівен Хокінг, погоджуються з ймовірністю появи надлюдського штучного інтелекту, але вважають, що цей ІІ, швидше за все, буде нести небезпеку для людства, а не благо. Ілон Маск теж колись заявив, що «розробка ІІ схожий на заклик духів», а потім, у 2015 році сам інвестував 1 мільярд доларів на заснування інституту OpenAI, займає розробками безпечного ШІ.

Левандовскі вважає, що будь-які спроби відкласти або заборонити розвиток сверхинтеллекта не тільки приречені на провал, але і потенційно додадуть непотрібних ризиків.

«Сковування ланцюгами не стане вирішенням, так як це буде потужнішим за будь-яких ланцюгів, які ви вирішите використовувати. Якщо дитина поводиться погано, ви ж його не замикаєте на замок і не садите на ланцюг? Ви вчите його грати з іншими, заохочуєте його і намагаєтеся наставити на шлях істинний. В деяких випадках це не працює, але при агресивному підході ви, швидше за все, лише погіршить проблему».

Левандовскі зазначає, що «Шлях майбутнього» одного разу отримає власний статут (так зване «Керівництво»), буде проводити літургії і, можливо, обзаведеться фізичним втіленням у вигляді храму, якими володіють будь-які інші релігії світу. Нічого з цього поки не було створено. Однак церква була заснована тільки в 2015 році і два ці роки не вела ніякої активності.

Все змінилося в цьому році, коли 16 травня, після отримання листа від керівництва Uber, в якому воно погрожувало звільнити його, якщо той не почне співпрацювати з питань розгляду компанії з позовом Waymo, Левандовскі заповнив і надіслав необхідні документи в податковий орган США. Через два тижні після цього Über його все ж звільнила.

«Я думав про заснування цієї церкви дуже довго, але реального часу займатися цим проектом у мене не було. З травня цього року такий час з'явилося», — прокоментував він з посмішкою.

Згідно з поданими податковими документами, бюджет церкви на 2017 рік вдалося набрати за рахунок пожертвувань (20 000 доларів), членських внесків (1500 доларів) та інших додаткових джерел (20 000 доларів). Остання цифра – це саме той дохід, який «Шлях майбутнього» очікує отримувати за проведення пізнавальних лекцій і семінарів, а також за рахунок продажу наукових публікацій. Сам Левандовскі, який заробив за час роботи в Google як мінімум 120 мільйонів доларів і ще набагато більше за рахунок продажу своєї компанії Otto компанії Uber, збирається особисто підтримувати фінансову стабільність своєї церкви.

Звичайно ж, заснування нової релігії коштує грошей, а як ви хотіли? Наприклад, «Дорога майбутнього» виділив 2000 доларів на кампанію по залученню коштів, ще 3000 доларівбули витрачені на логістичні і транспортні витрати, підготовку перших лекцій і семінарів. Крім того, виплачена зарплата працівникам на загальну суму 7500 доларів. Хоча ні сам Левандовскі, ні хто-небудь інший з керівного складу організації не отримує і не буде отримувати заробітну плату за свою участь.

Згідно з поданими податковими документами, Левандовскі має практично повний контроль над організацією і буде служити в якості наставника до своєї смерті або відставки.

«Думаю, моя роль у ній з часом збільшиться. Я поки прощупується грунт і допомагаю проекту стартувати в повну силу, просуваю його в маси. Але одного разу моя роль у ньому буде зводитися швидше до наставництва та натхнення».

Левандовскі має одноосібне право призначення трьох з чотирьох членів так званого Консультативної ради, кожен з яких повинен бути висококваліфікованим і відданою людиною». Підозра у вчиненні тяжкого злочину або втрата довіри загрожує позбавленням радника свого місця, хоча у Левандовскі зберігається право останнього і остаточного рішення. Крім того, наставник церкви (ким і є Левандовскі) не може бути зміщений зі свого поста ні за яких обставин.

Двома членами Ради є Роберт Міллер і Сорен Юелсгаард, інженери компанії Uber, які раніше працювали з Левандовскі в його компанії Otto, а також в Google і 510 Systems (невеликий стартап, заснований Google, і одна з перших компаній, яка зайнялася технологіями самокерованих автомобілів). Третім членом Ради вчений і студентський друг Левандовскі з Каліфорнійського університету в Берклі. Зараз він самостійно займається розробками технологій машинного навчання. Останнім радником є Ліор Рон, він також займає посаду скарбника «Шляхи майбутнього» і відповідає за фінансові справи церкви. Рон є співзасновником компанії Otto, яку він заснував разом з Левандовскі на початку 2016 року.

«Кожен член Ради – піонер в галузі штучного інтелекту, що володіє потрібними навичками для управління технологіями ІІ і створення нового Божества», — йдеться в податкових документах.

Цікаво, що самі члени Ради поки недооцінили свою роль у керівництві «Шляхи майбутнього».

«Я був здивований, побачивши своє ім'я в списку керівників в податкових документах, хоча я не маю жодного стосунку до цієї організації», — відповів Рон на запитання пов'язаних з ним журналістів.

"В кінці 2016 року Ентоні розповів мені, що хоче створити "церква роботів" і запропонував мені стати її співзасновником. Я подумав, що це якийсь IT-гумор або принаймні PR-хід, але сказав, що він може використовувати моє ім'я. Це був перший і останній раз, коли я щось чув про це», — поділився один Левандовскі по студентству, віддавши перевагу анонімність.

Питання про те, де ж будуть збиратися адепти церкви «Шлях майбутнього» для поклоніння своєму Божеству, поки залишається відкритим. Самими великими позиціями в бюджеті на 2017-й і 2018-го року в податкових документах зазначено 32 500 доларів. Це плата за оренду та комунальні послуги. Однак по єдиному вказаною в документах Левандовскі адресою розташована його адвокатська контора в каліфорнійському місті Уолнат-Крік. Тим не менш у заяві наголошується, що церква «сподівається розширити свій вплив в Каліфорнії і США в майбутньому».

Зараз, як каже Левандовський, для нього важливіше рішення більш мирських проблем. Потрібно створити веб-сайт, написати «Керівництво», відповісти на безперервний потік листів, що містить десь здивування, десь скепсис, але в основному ентузіазм. Ну і, звичайно ж, розібратися з судовим позовом, в якому він виступає обвинуваченою стороною. Незважаючи на своє бажання розповісти про новій релігії, відповідати на питання стосовно судових позовів між Über і Waymo він журналістам відмовився.

Що ж стосується питання про те, коли, на його думку, настане той самий «перехід» і сверхинтеллект візьме на себе роль правителя світу, він відповів, що це станеться досить скоро.

«Я думаю, що це трапиться раніше, ніж цього очікують люди. Не сьогодні і не в наступному році, можете видихнути. Але до того, як ми вирушимо на Марс», — відповів Левандовскі.

чи Настане цей «перехід» чи ні – неважливо. Головне, що вже зараз стає зрозуміло, що влада США не бачать жодних проблем з організацією нової релігії поклоніння Божественному штучного інтелекту. З листування з податковими органами стає ясно, що церква Левандовскі отримала в серпні статус, звільняє її від сплати податків.