Небезпечна людяність: навіщо нам розумний штучний інтелект?

Коли Норберт Вінер, батько кібернетики, писав свою книгу «Людське використання людських істот» в 1950 році, вакуумні трубки все ще були основними електронними блоками, і в роботі, за фактом, було всього кілька комп'ютерів. Однак він уявив майбутнє, яке ми зараз спостерігаємо, з безпрецедентною точністю, помилившись лише в незначних дрібницях.

Перш за будь-якого іншого філософа штучного інтелекту, він зрозумів, що ІІ не просто буде наслідувати — і замінювати — людським істотам у багатьох видах інтелектуальної діяльності, але і змінить людей в цьому процесі. «Ми всього лише вири в річці вічно поточної води», писав він. «Ми не є чимось, що просто живе, ми моделі, які увічнюють себе».

Наприклад, коли з'являється безліч привабливих можливостей, ми готові платити і приймати невеликі витрати на ведення бізнесу для доступу до нових можливостей. І дуже скоро ми стаємо залежними від нових інструментів, втрачаємо здатність існувати без них. Опції стають обов'язковими.

Це дуже стара історія еволюції, і багато глави з неї нам добре відомі. Більшість ссавців може синтезувати свій власний вітамін C, але примати, що харчуються переважно фруктами, втратили цю вбудовану можливість. Самоповторяющиеся шаблони, які ми називаємо людьми, тепер залежать від одягу, обробленої їжі, вітамінів, шприців, кредитних карт, смартфонів та інтернету. І завтра, якщо не сьогодні, — від штучного інтелекту.

Вінер передбачав кілька проблем з цим положенням речей, які і інші ранні оптимісти ІІ значною мірою втратили з виду. Реальна загроза, за його словами, полягала:

…в тому, що такі машини, хоча й безпорадні самі по собі, можуть використовуватися людиною або блокувати людських істот для збільшення їх контролю над іншою частиною раси, або політичні лідери можуть спробувати взяти під контроль своє населення, використовуючи не самі машини, а політичні методи, столье вузькі і байдужі до людини, як якщо б вони були придумані механічно.

Очевидно, ці небезпеки зараз дуже актуальні.

У ЗМІ, наприклад, інновації в цифровому аудіо і відео дозволяють нам платити невелику ціну (в очах аудіофілов і любителів кіно) за відмову від аналогових форматів, а натомість отримувати вкрай простий — занадто простий — спосіб відтворення записів майже без обмежень.

Але є величезна прихована ціна. Міністерство правди Оруелла стало реальною можливістю. Методи ІЇ по створенню практично не відрізняються підроблених записів» роблять застарілими інструменти, які ми використовували для розслідувань останні 150 років.

Нам залишається просто відмовитися від короткої епохи фотографічних доказів і повернутися в колишній світ, де пам'ять людини і довіру були золотим стандартом. Або ж ми можемо розробити нові методи захисту і нападу у битві за правду. Одним з хвилюючих прикладів останнього часу став факт того, що знищити репутацію набагато дешевше, ніж на цю ж заслужити репутацію і захистити. Вінер бачив це явище дуже широко: «У довгостроковій перспективі не буде різниці між озброєнням себе і озброєнням ворога». Епоха інформації стала також епохою дезінформації.

Що ми можемо зробити? Ключ у тому ж спостереженні Вінера про те, що «ці машини» «безпорадні самі по собі». Ми створюємо інструменти, а не колег, і реальна загроза полягає в тому, що ми не бачимо різниці.

Штучний інтелект у своїх нинішніх проявах паразитує на людському інтелекті. Він досить безцеремонно оволодіває всім, що створили люди-творці, і витягує патерни — включаючи наші найпотаємніші звички. Ці машини поки не мають цілей або стратегій, які не здатні до самокритики та інновацій, вони лише вивчають наші бази даних, не маючи власних думок і цілей.

Вони, як каже Вінер, безпорадні не в тому сенсі, що вони закуті в кайдани або знерухомлені, немає, вони взагалі не є агентами — у них немає можливості діяти від причин», як сказав би Кант.

В довгостроковій перспективі «сильний ШІ», або загальний штучний інтелект, можливий, але небажаний. Ще більш обмежений ІІ, який можливий на практиці сьогодні, не буде злом. Але він несе загрозу — почасти тому, що його можна помилково прийняти за сильний ШІ.

Наскільки сильний штучний інтелект сьогодні?

Розрив між сьогоднішніми системами і науково-фантастичними системами, наводняющими популярне уяву, все ще величезний, хоча багато людей, як любителі, так і професіонали, схильні його недооцінювати. Давайте розглянемо Watson від IBM, який цілком може стати гідним поваги в наш час.

Цей суперкомп'ютер став результатом вкрай масштабного процесу R&D (дослідження і розробки), в якому було задіяти безліч людей і напрацювання дизайну інтелекту за багато століть, і він використовує в тисячі разів більше енергії, ніж мозок людини. Його перемога в Jeopardy! була справжнім тріумфом, який став можливий завдяки формульним обмеженням правил Jeopardy!, але щоб він міг взяти участь, навіть ці правила довелося переглянути. Довелося трохи відмовитися від універсальності і додати людяності, щоб вийшло шоу.

Watson — погана компанія, незважаючи на вводить в оману рекламу від IBM, яка обіцяє розмовні здібності ШІ на обєм рівні, а перетворення Watson в правдоподібного багатогранного агента було б те самеперетворення калькулятора в Watson. Watson може бути хорошим обчислювальним футляром для такого агента, але швидше мозочком або мозочка, а не розумом — у кращому випадку, підсистемою спецпризначення, що виконує роль підтримки, але і близько не системою для планування і формулювання цілей в залежності від отриманого розмовного досвіду.

та й навіщо б нам хотілося створити мислячу і творчого агента з Watson? Можливо, блискуча ідея Тюрінга — знаменитий тест Тьюринга — заманила нас у пастку: ми стали одержимі створенням хоча б ілюзії реального людини, що сидить перед екраном, минаючи «зловісну долину».

Небезпека в тому, що з тих пір, як Тьюринг представив свою задачу — яка була, в першу чергу, завданням обдурити суддів — творці ІІ намагалися виконати її за допомогою смішних гуманоїдних ляльок, «мультяшних» версій, які зачарують і обеззброять непосвячених. ELIZA Джозефа Вейзенбаума, самий перший чатбот, була яскравим прикладом створення такої ілюзії, і при цьому вкрай простим алгоритмом, який міг переконати людей, що вони ведуть задушевні й щирі розмови з іншими людьми.

Його стурбувала легкість, з якою люди готові вірити в це. І якщо ми щось зрозуміли з щорічних змагань на проходження обмеженого тесту Тюрінга за премію Лебнера, так це те, що навіть самі розумні люди, які не обізнані в комп'ютерному програмуванні, легко ведуться на ці найпростіші прийоми.

Відношення людей в області ШІ до таких методів різниться від засудження до заохочення, і консенсус полягає в тому, що всі ці хитрощі не дуже глибокі, але можуть бути корисними. Зрушенням у відношенні, що був би дуже до речі, буде щире визнання того, що розмальовані у ляльок андроїди — це помилкова реклама, яку варто засуджувати, а не заохочувати.

Як цього досягти? Як тільки ми зрозуміємо, що люди починають приймати рішення щодо життя і смерті, слідуючи «раді» систем ШІ, внутрішні операції яких практично незбагненні, ми побачимо хороший привід для тих, хто закликає людей довіряти таким системам, почати спиратися на норми моралі і закону.

Системи штучного інтелекту — дуже потужні інструменти. Настільки потужні, що навіть у експертів є гарна причина не довіряти власним судженням, коли є «судження», представлені цими інструментами. Але якщо ці користувачі інструментів збираються отримати вигоду, фінансову або іншу, від популяризації цих інструментів, вони повинні переконатися, що знають, як зробити це з усією часткою відповідальності, максимальним контролем і обґрунтуванням.

Ліцензування і схвалення дій операторів таких систем — точно так само, як ми ліцензуємо фармацевтів, операторів кранів та інших фахівців, помилки та хибні судження яких можуть мати тяжкі наслідки — може, за підтримки страхових компаній та інших організацій, зобов'язати творців систем ШІ йти довгим шляхом, вишукуючи слабкості і недоліки своїх продуктів, а також навчати тих, хто збирається з ними працювати.

Можна уявити свого роду зворотний тест Тюрінга, в якому предметом оцінки буде суддя; поки він не знайде слабкості, порушення меж, прогалини в системі, ліцензії він не отримає. Для отримання сертифіката такого судді потрібно серйозне навчання. Прагнення приписувати об'єкту людську здатність мислити, як ми зазвичай робимо, зустрічаючись з розумним агентом, дуже і дуже сильне.

В дійсності, здатність протистояти бажанням бачити в чому-то очеловеченном людини — дивна штука. Багато людей знайшли б плекання такого таланту сумнівним, тому що навіть найбільш прагматичні користувачі системи періодично ставляться до своїх інструментів «дружелюбно».

Незалежно від того, наскільки ретельно дизайнери штучного інтелекту будуть вилучати фальшиві «людські» нотки в своїх виробах, ми повинні очікувати розквіту ярликів, обхідних шляхів і допустимих спотворень фактичного «розуміння» як систем, так і їх операторів. Точно так само, як по телевізору рекламують ліки з довгим списком побічних ефектів або алкоголь, забезпечуючи ролик великою кількістю дрібного шрифту з усіма, передбаченими законом, попередженнями, так само і розробники штучного інтелекту будуть дотримуватися закону, але ухитрятися в попередженнях.

Навіщо нам штучний інтелект?

Нам не потрібні штучні свідомі агенти. Є маса природних свідомих агентів, яких достатньо, щоб виконувати будь-які завдання, призначені для фахівців і привілейованих осіб. Нам потрібні розумні інструменти. Інструменти не мають права і не повинні мати почуттів, які можна буде зачепити або якими можна буде скористатися».

Одна з причин не робити штучних свідомих агентів полягає в тому, що хоча вони і можуть стати автономними (і в принципі вони можуть бути такими ж автономними, самоулучшающимися або самосозидательными, як будь-яка людина), їм не варто — без спеціального дозволу — розділяти з нашими природними свідомими агентами нашу вразливість або нашу смертність.

Деніел Деннетт, професор філософії з Університету Тафтса, одного разу поставив перед студентами завдання на семінарі з штучним агентам і автономії: дайте мені технічні характеристики робота, який зможе підписати контракт з вами — не сурогату, яким володіє інша людина, а самого по собі. Це не питання розуміння причин або маніпуляцій ручкою на папері, а швидше володіння і заслуженого володіння правовим статусом і моральноївідповідальністю. Маленькі діти не можуть підписувати таких контрактів, так само як і інваліди, правовий статус яких зобов'язує їм бути під опікою і накладає відповідальність на опікунів.

Проблема роботів, які могли б захотіти отримати такий високий статус, у тому, що, як і Супермен, вони занадто слабкі, щоб робити такі заяви. Якщо вони відмовляться, що буде? Яким буде покарання за порушення обіцянки? Їх закриють в клітці або розберуть на частини? В'язниця для штучного інтелекту не складе незручностей, якщо ми тільки спершу не завантажимо спрагу свободи, яка не зможе бути проігнорована або відключена самим ІІ. Розбирання ШІ не вб'ють інформацію, яка зберігається на його диску і в програмному забезпеченні.

Простота цифрового запису і передачі даних — прорив, який дозволив програмного забезпечення і даних отримати, по суті, безсмертя — робить роботів невразливими. Якщо це не здається очевидним, подумайте про те, як змінилася б моральність людей, якщо б ми могли робити «бекапи» людей щотижня. Стрибок з моста без гумки в неділю після п'ятничного бекапа може бути необачним рішенням, потім можна буде подивитися запис своєї передчасної кончини пізніше.

Саме тому ми створюємо не свідомих — хотіли б створювати — гуманоїдних агентів, а швидше зовсім новий тип істот, якихось оракулів, без свідомості, без страху смерті, без відволікання на любов і ненависть, без особистості: дзеркала правди, які майже напевно будуть заражені людської брехнею.

Людське використання людських істот скоро зміниться — в черговий раз — назавжди, але якщо ми не візьмемо на себе відповідальність за нашу траєкторію еволюції, ми зможемо уникнути непотрібних небезпек.

Не згодні? Розкажіть про свою думку .