Штучний інтелект: не утопія, не апокаліпсис... але що?

Практично кожен, хто хоч трохи занурюється в тему штучного інтелекту, приходить до висновку, що він приведе нас до вогняного апокаліпсису, або до чарівної утопії. Варіантів між практично немає. Звичайно, частково це викликано тим фактом, що більше уваги привертають гасла на кшталт «Кінець близький!» або «Утопія гряде!». І все ж...

Почасти це зводиться до того, як люди ставляться до змін, особливо масштабним. Миллениаризм не має ніякого відношення до того, щоб бути «миллениалом», народитися в 90-х і пам'ятати серіал про Баффі, переможниця вампірів. Це стиль мислення про майбутнє, який пов'язаний з глибоко вкоріненим відчуттям долі. Миллениаризм — це «очікування того, що світ буде знищений і замінений на досконалий світ і що прийде викупитель, який повалить зло і втішить праведників».

Переконання миллениалов, відповідно, тісно пов'язують ідеї руйнування і творення. Серед них — ідеї величезних, апокаліптичних, сейсмічних зрушень, які знищать тканина старого світу і побудують щось зовсім нове. Подібна система переконань існує в багатьох великих релігіях світу, і навіть у не зовсім релігіях атеїстів та агностиків, які вірять в технології.

Погляньте, наприклад, як футурологи чекають технологічної сингулярності. На думку Рея Курцвейла, сингулярність — це створення раю. Кожен стане безсмертним, завдяки біотехнологіям, які вилікують наші хвороби; наші мізки можна буде завантажити в хмару; нерівність і страждання зникнуть як явища. «Руйнування світу» (destruction of the world) замінюється на улюблений термін Кремнієвої долини: disruption, або радикальна зміна галузі. І як і у випадку з іншими тисячолітніми переконаннями, ваш підсумковий погляд залежить від того, чого ви чекаєте: кінця світу або народження утопії.

Існує багато хороших причин залишатися скептиком щодо такого роду мислення. Найпереконливіша з них полягає, ймовірно, в тому, що переконання миллениалов просто-напросто відображають саме ставлення людей до змін; просто подивіться, як багато варіацій цих переконань виростало в світі.

Ці переконання присутні у аспекти християнського богослов'я, хоч і стали популярними у своїй сучасній формі в 19 і 20 століттях. Ідеї зразок Вічної скорботи — багатьох років страждань і турбот — і Захоплення, коли праведники воскреснуть, а зло покаране. Після цих руйнувань світ буде створено заново, або люди вирушать в рай.

Незважаючи на догматичний атеїзм, марксизм було багато подібних переконань. Питання лише у ставленні до історії. Точно так само, як віруючі шукають сигнали, які натякнуть на виконання пророцтв, марксисти шукають знаки того, що ми знаходимося на фінальній стадії капіталізму. Вони вважають, що суспільство неминуче деградує і виродиться до самих низів — власне, як вважають християни.

Відповідно до марксизму, коли експлуатація робітничого класу багатим стане нестійкою, робочий клас збирається і скидає гнобителя. «Скорбота» змінюється «революцією». Іноді революційні фігури на кшталт Леніна чи самого Маркса проголошуються месіями, які наближають настання Міленіуму; їх риторика неминуче містить заклики до руйнування старої системи, на руїнах якої «ми наш, ми новий світ побудуємо». Праведні робітники отримають своє по праву, а зла буржуазія буде знищена.

Навіть у норвезької міфології є елемент такого, як зазначає Джеймс Хьюз у своєму есе в книзі Ніка Бострома «Глобальні катастрофічні ризики». У Рагнарок і люди, і боги зазнають поразки у фінальній апокаліптичній битві, але оскільки все це трішечки похмуро, скандинави додали ідею появи нової землі, на якій ті, що вижили будуть жити у гармонії.

Судний день теж став культурним тропом. Взяти давніх єгиптян та їх вірування на тему потойбічного життя; владика підземного світу Осіріс зважує серце смертного разом з пером. Якщо серце померлого буде надто обтяженим проступками, його з'їсть демон і надія на загробне життя зникне.

Можливо, під час сингулярності станеться щось подібне. По мірі того, як поліпшуються наші технології, а значить і наша сила, наші серця, серця людей, будуть зважені проти пір'я. Якщо вони виявляться занадто важкими — з дурістю, зарозумілістю, упередженням, злом — ми провалимо випробування і будемо знищені. Але якщо ми пройдемо і вийдемо з сингулярності, нас чекає рай. Як і в інших системах переконань, тут немає місця для невіруючих; все суспільство радикально зміниться, хочете ви цього чи ні. Технологічне захоплення.

Схоже, кожне серйозне розвиток провокує таку відповідь. І ядерну зброю також. Або це стане останньою краплею і ми знищимо себе, або ядерну енергію можна буде використовувати для створення кращого світу. На початку ядерної епохи люди говорили про електриці, «яке буде занадто дешевим, щоб його вважати». Вчені, які працювали над бомбою, часто думали, що з такою руйнівною силою в руках людини ми будемо просто зобов'язані зібратися і працювати спільно як вид.

Коли ми бачимо один і той же відповідь, знову і знову, в різних обставинах, що виникають в різних областях, будь то наука, релігія чи політика, нам потрібно враховувати людські упередження. Нам подобаються переконання миллениалов, тому коли з'являється ідея штучного інтелекту, який перевершить людський, ми тут же накладаємо знайомий шаблон.

Нам не подобаються факти. Нам не подобається інформація. Ми не настільки раціональні, якими себевважаємо. Ми створення наративу. Фізики спостерігають світ, і ми вплітаємо власні спостереження в наративні теорії, історії про крихітних більярдних кульках, які літають тут і там і стикаються між собою, або про просторі і часі, яка згинається, викривляється і розширюється. Історики намагаються наділити сенсом нескінченний потік подій. Ми обожнюємо історії: історіями викладено наше минуле, наше сьогодення і вони ж готують нас до майбутнього.

Наратив миллениалов прекрасний і переконливий. Він приводить вас до соціальних змін. Він може виправдати ваші повсякденні страждання, якщо ви скорбите. Він дає вам надію на те, що ваше життя важлива і осмислена. Він дає вам почуття розвитку речей в певному напрямку, у відповідності з правилами, а не тільки в хаосі. Він обіцяє, що праведники будуть врятовані, а єретики покарані, навіть якщо на шляху будуть страждання. Нарешті, наратив миллениалов обіцяє рай в кінці тунелю.

Нам варто бути обережніше з наративом миллениалов, коли ми розмірковуємо на тему технологічного розвитку, сингулярності та екзистенціальних ризиків. Ми багато разів кричали «вовки!», коли їх не було. Можливо, і зараз світ не стоїть на грані катастрофи. Звичайно, ця історія не така приваблива. Звичайно, всім хочеться феєричного фіналу.

Але копните глибше — і ви зрозумієте, що переконання миллениалов не завжди найбільш перспективні, тому, що вони виключають людського агента з рівняння. Нам доведеться повірити у відтінки сірого і відмовитися від зловісних апокаліпсисів з красноглазым ІІ і від казкової утопії зі всемогутнім ШІ, який обожнює людей.