Чи можуть машини мати свідомість, на думку нейробіологів? Схоже, що так

Як би режисерові не хотілося змусити вас у це вірити, головним героєм фільму «машини» 2015 року, знятого Ендрю Гарландом, є не Калеб — молодий програміст, якому доручили оцінювати машинне свідомість. Ні, головним героєм стала Ава, вражаючий гуманоїдний ІІ, наївний вигляд і загадковий всередині. Як і більшість фільмів подібного роду, «З машини» залишає глядачеві самому відповісти на питання: чи дійсно Ава була свідомою? При цьому фільм вміло уникає тернистого питання, на який намагалися відповісти гучні фільми на тему ІЇ: що таке свідомість і чи може воно бути біля комп'ютера?

Голлівудські продюсери не єдині намагаються відповісти на це питання. Оскільки машинний інтелект розвивається із запаморочливою швидкістю — не тільки перевершуючи можливості людей в таких іграх, як DOTA 2 і го, але і роблячи це без допомоги людини — це питання знову піднімається в широких і вузьких колах.

Проб'ється чи свідомість в машинах?

На цьому тижні в престижному журналі Ѕсіепсебыл опублікований огляд, зроблений когнітивними вченими, докторами Станісласом Дехэне, Хокваном Лау і Сідом Куайдером з французького коледжу в Каліфорнійському університеті в Лос-Анджелесі і Дослідницького університету PSL. У ньому вчені заявили: поки немає, але є чіткий шлях вперед.

Причина? Свідомість «абсолютно вычисляемо», кажуть автори, тому що виникає в процесі специфічних видів обробки інформації, які стають можливими завдяки апаратних засобів мозку.

Немає ніякого чарівного бульйону, ніякої божественної іскри — навіть емпіричної компоненти («як це — мати свідомість?») не вимагається для впровадження свідомості.

Якщо свідомість виникає чисто з розрахунків в нашому полуторакилограммовом органі, то оснащення машин аналогічним властивістю — лише питання перекладу біології в код.

Подібно тому, як сучасні потужні методи машинного навчання сильно запозичені з нейробіології, ми можемо досягти і штучного свідомості, вивчаючи структури в наших власних мізках, які генерують свідомість, і реалізуючи ці ідеї як комп'ютерні алгоритми.

Від мозку до робота

Безсумнівно, область ІІ високою мірою отримала поштовх, завдяки вивченню нашого власного мозку, як його форми, так і функції.

Наприклад, глибокі нейронні мережі, архітектурні алгоритми, які лягли в основу AlphaGo, створені за прикладом багатошарових біологічних нейронних мереж, організованих у наших мізках.

Навчання з підкріпленням, тип «навчання», в процесі якого ІІ навчається на мільйонах прикладах, йде корінням в стародавню техніку тренування собак: якщо собака робить щось правильно, то отримує нагороду; в іншому разі їй доведеться повторювати.

У цьому сенсі переклад архітектури людської свідомості на машини здається простим кроком в сторону штучного свідомості. Є тільки одна велика проблема.

«Ніхто у сфері ШІ не працює над створенням свідомих машин, тому що нам просто нема за що взятися. Ми просто не знаємо, що робити», говорить доктор Стюарт Расселл.

Багатошарове свідомість

Сама важка частина, яку треба подолати, перш ніж приступити до створення мислячих машин, полягає в тому, щоб зрозуміти, що таке свідомість.

Для Дехэне і колег свідомість — це багатошаровий конструкт з двома «вимірами»: С1, інформація, яка зберігається в готовому вигляді у свідомості, і С2, здатність отримувати й відслідковувати інформацію про самому собі. Обидва вони важливі для свідомості і не можуть існувати один без одного.

Припустимо, ви керуєте автомобілем і спалахує маячок, застережливий про малий залишок бензину. Сприйняття індикатора — це C1, уявне представлення, з яким ми можемо взаємодіяти: ми помічаємо його, діємо (заправляємося) і розповідаємо про це пізніше («Бензин закінчився на узвозі, пощастило — докотився»).

«Перше значення, яке ми хочемо відокремити від свідомості, — це поняття глобальної доступності», пояснює Дехэне. Коли ви усвідомлюєте слово, весь ваш мозок розуміє це, тобто ви можете пропускати інформацію через різні модальності.

Але С1 — це не просто «ментальний альбом». Це вимір являє собою цілу архітектуру, яка дозволяє мозку залучати кілька модальностей інформації з наших почуттів або, наприклад, зі спогадів про пов'язаних події.

На відміну від підсвідомої обробки, яка часто спирається на певні «модулі», компетентні у вирішенні певного набору завдань, С1 є глобальним робочим простором, яке дозволяє мозку інтегрувати інформацію, приймати рішення про дії і слідувати до кінця.

Під «свідомістю» ми маємо на увазі певне уявлення, в певний момент часу, який бореться за доступ до розумової робочого простору і перемагає. Переможці розподіляються між різними обчислювальними схемами мозку і зберігаються в центрі уваги протягом всього процесу прийняття рішень, що визначають поведінку.

Свідомість С1 стабільно і глобально — задіюються всі пов'язані схеми мозку, пояснюють автори.

Для складної машини начебто розумного автомобіля С1 — це перший крок до вирішення насувається проблеми, як низький запас палива. В даному прикладі індикатор сам по собі є підсвідомим сигналом: коли він загоряється, всі інші процеси машини залишаються непроинформированными, а автомобіль — навіть будучи оснащеним новітніми засобами візуальної обробки — безколивань проноситься повз заправної станції.

З С1 паливний бак повідомить комп'ютер автомобіля (дозволить індикатору проникнути в «свідомий розум» автомобіля), щоб той, у свою чергу, активував GPS для пошуку найближчої станції.

«Ми вважаємо, що машина перетворює це в систему, яка буде витягувати інформацію з усіх доступних їй модулів і робити її доступною для будь-якого іншого модуля обробки, якій ця інформація може бути корисна», говорить Дехэне. «Це перше почуття свідомості».

Мета-пізнання

В деякому сенсі С1 відображає здатність розуму отримувати інформацію ззовні. С2 ж іде в інтроспектіву.

Автори визначають другу мережу свідомості, С2, як «мета-пізнання»: воно рефлексує, коли ви щось дізнаєтесь чи сприймаєте або просто робите помилку. («Думаю, я повинен був заправитися минулого станції, але забув»). Це вимір відображає зв'язок між свідомістю і почуттям власного «я».

С2 — це рівень свідомості, який дозволяє вам почувати себе більш або менш упевненим у прийнятті рішення. З точки зору обчислювальної техніки це алгоритм, який відображає ймовірність того, що рішення (або обчислення) буде правильним, навіть якщо воно часто сприймається як «шосте почуття».

С2 також запускає коріння в пам'ять і цікавість. Ці алгоритми самоконтролю дозволяють нам знати, що ми знаємо і не знаємо, — це «мета-пам'ять», яка допомагає вам знайти потрібне слово «на кінчику язика». Спостереження за тим, що ми знаємо (або не знаємо) особливо важливо для дітей, говорить Дехэне.

«Юним дітям абсолютно необхідно стежити за тим, що вони знають, щоб вчитися і виявляти цікавість», говорить він.

Два аспекти свідомості працюють спільно: С1 витягає релевантну інформацію в наше робоче розумовий простір (відкидаючи інші «можливі» ідеї або рішення), а С2 допомагає з довгостроковою рефлексією про те, чи призвело свідоме мислення до корисного результату або відповіді.

Повертаючись до прикладу з індикатором малого палива, С1 дозволяє автомобілю вирішити проблему моментально — ці алгоритми глобализируют інформацію, і автомобіль дізнається про проблему.

Але щоб вирішити проблему, автомобілю знадобиться каталог «пізнавальних здібностей» — самоусвідомлення того, які ресурси легко доступні, наприклад, GPS-карта заправних станцій.

«Автомобіль з самопізнанням такого роду — ось що ми називаємо роботою з С2», говорить Дехэне. Оскільки сигнал доступний глобально і відстежується так, ніби машина дивиться на себе з боку, автомобіль також індикатором малого запасу палива і поведе себе так само, як людина знизить споживання палива і знайде АЗС.

«Більшість сучасних систем машинного навчання не мають ніякого самоконтролю», зазначають автори.

Але їх теорія, схоже, йде по вірному шляху. У тих прикладах, де була імплементована система самоспостереження — у вигляді структури алгоритмів або окремої мережі — ІІ виробляли «внутрішні моделі, які були мета-пізнавальні по природі, що дозволяло агенту виробити (обмежена, імпліцитне, практичне) розуміння самого себе».

свідомим машин

Буде машина, що володіє моделями С1 і С2, вести себе так, ніби володіє свідомістю? Дуже ймовірно: розумний автомобіль буде «знати», що бачить, виражати впевненість у цьому, повідомляти про це іншим і знаходити найкраще рішення проблеми. Якщо його механізми самоспостереження зламаються, він також може випробувати «галюцинації» або візуальні ілюзії, властиві людям.

Завдяки С1, він може використовувати наявну в нього інформацію і використовувати її гнучко, а завдяки С2, він буде знати межі того, що знає, говорить Дехэне. «Думаю, ця машина буде володіти свідомістю», а не просто здаватися такою людям.

Якщо у вас залишається відчуття, що свідомість — це набагато більше, ніж глобальний обмін інформацією і самоспостереження, ви не самотні.

«Таке чисто функціональне визначення свідомості може залишити деяких читачів незадоволеними», визнають автори. «Але ми намагаємося зробити радикальний крок, можливо, спрощуючи проблему. Свідомість — це функціональне властивість, і по мірі того, як ми продовжуємо додавати функції машин, у певний момент ці властивості будуть характеризувати те, що маємо на увазі під свідомістю», укладає Дехэне.