Штучний інтелект далеко не такий розумний, яким ви і Ілон Маск його вважаєте

У березні 2016 року комп'ютерний алгоритм AlphaGo компанії DeepMind зміг здобути перемогу над Чи Седолем, на той момент найкращим у світі гравцем в складну логічну го. Ця подія стала одним з визначальних моментів в історії технологічної індустрії, якими свого часу стали і перемога комп'ютера Deep Blue компанії IBM над чемпіоном світу з шахів Гаррі Каспаровим, і перемога суперкомп'ютера Watson від тієї ж IBM у вікторині для ерудитів Jeopardy в 2011 році.

Але все ж, незважаючи на ці перемоги, якими б вражаючими вони не були, тут мова більшою мірою йде про тренувальних алгоритмах і використанні грубої обчислювальної потужності, ніж про реальний штучному інтелекті. Колишній професор робототехніки Массачусетського технологічного інституту Родні Брукс, який є одним із засновників компанії iRobot, а пізніше Rethink Robotics, каже, що навчання алгоритму грі в складну стратегічну головоломку – це не інтелект. Принаймні не такий, яким ми його уявляємо для людини.

Експерт пояснює, що яким би сильним AlphaGo ні показав себе при виконанні поставленого перед ним завдання, насправді він не здатний ні на що інше. Більш того, він налаштований таким чином, що може грати в го лише на стандартному полі 19 x 19. В інтерв'ю порталу TechCrunch Брукс розповів, як нещодавно мав нагоду поспілкуватися з командою з DeepMind і з'ясувати одну цікаву деталь. На питання про те, що сталося б, поміняй організатори змагання розмір дошки го і збільшивши її до 29 x 29 клітин, команда AlphaGo зізналася йому, що навіть легка зміна ігрового поля призвело б до того, що «нам настав кінець».

«Я думаю, що люди бачать, наскільки добре алгоритм справляється з одним завданням, і, мабуть, тут же вважають, що він здатний так само ефективно виконувати інші. Але справа в тому, що він не може», — прокоментував Брукс.

Грубий інтелект

У травні цього року в інтерв'ю Дэвину Колдвею на заході TechCrunch Disrupt Каспаров зазначив, що розробка комп'ютера, здатного грати в шахи на світовому рівні, – це одне, але зовсім інше назвати такий комп'ютер чистим штучним інтелектом, так як він ним не є. Це просто машина, яка кидає всю свою обчислювальну потужність на вирішення проблеми, з якою вона звикла справлятися найкраще.

«У шахах машини перемагають із-за можливості глибокого обчислювального розрахунку. Вони можуть стати абсолютно непереможними при наявності величезної бази даних, дуже швидких апаратних засобів і більше логічних алгоритмів. Проте вони позбавлені розуміння. Вони не розпізнають стратегічні шаблони. У машин немає мети», — заявив Каспаров.

Гіл Пратт, генеральний директор Toyota Institute, відділу компанії Toyota, що займається питаннями і проектами, пов'язаними з штучним інтелектом і його використанням у домашніх роботах і безпілотних автомобілях, теж прийняв участь в інтерв'ю TechCrunch у рамках заходу Robotics Session. На його думку, той страх, який ми чуємо від широкого кола людей, включаючи Ілона Маска, нещодавно назвав штучний інтелект «екзистенціальної загрозою людству», може бути обумовлений не більше ніж тими антиутопичными описами світу, які нам пропонує наукова фантастика.

«Наші нинішні системи глибинного навчання гарні у виконанні поставлених перед ними завдань лише настільки, наскільки ми їх самі створили. Але насправді вони досить узкоспециализированы і крошечны за своїми масштабами. Тому я вважаю важливим щоразу в контексті цієї теми згадувати і те, наскільки вони гарні, і те, наскільки вони насправді малоефективні. А також те, як далекі ми від того моменту, коли ці системи зможуть почати уявляти ту загрозу, про яку говорить Ілон Маск і інші», — прокоментував Пратт.

Брукс, у свою чергу, на TechCrunch Robotics Session зазначив, що серед людей взагалі спостерігається тенденція вважати, що якщо алгоритм здатний справлятися з завданням «ікс», то він, мабуть, такий же розумний, як людина.

«Я думаю, що причина, по якій люди, включаючи Ілона Маска, роблять цю помилку, полягає в наступному. Коли ми бачимо людину, дуже добре справляється з поставленим перед ним завданням, ми розуміємо, що він володіє високою компетенцією у цій справі. Мені здається, що ту ж саму модель люди намагаються застосувати і до машинного навчання. І в цьому якраз і полягає головна помилка», — говорить Брукс.

Глава компанії Facebook Марк Цукерберг провів минулої неділі пряму трансляцію, в ході якої теж виступив з критикою коментарів Ілона Маска, назвавши їх «досить безвідповідальними». На думку Цукерберга, ІІ буде здатний суттєво покращити наше життя. Маск в свою чергу вирішив не відмовчуватися і відповів Цукербергу, що у того «обмежене розуміння» про ІЇ. Тема ще не закрита, і Маск пообіцяв трохи пізніше більш детально відповісти на нападки з боку колег в IT-індустрії.

До речі, Маск не єдиний, хто вважає, що ШІ може нести потенційну загрозу. Фізик Стівен Хокінг і філософ Нік Бостром теж висловлюють свою стурбованість про потенціал проникнення штучного інтелекту в уклад життя людства. Але, швидше за все, вони говорять про більш генерализированном штучному інтелекті. Про те, який вивчають в таких лабораторіях, як Facebook AI Research, DeepMind і Maluuba, ніж про більш вузькоспеціалізованому ІІ, перші зачатки якого ми можемо бачити вже сьогодні.

Брукс також зазначає, що багато хто з критиків ІІ навіть не працюють в цій сфері, таприпустив, що ці люди просто не розуміють, наскільки складним буває пошук розв'язання кожної окремої задачі в цій області.

«насправді людей, які вважають ІІ екзистенціальної загрозою, не так багато. Стівен Хокінг, британський астрофізик і астроном Мартін Рис... і ще кілька людей. Іронія в тому, що більшість з них об'єднує одна особливість – вони навіть не працюють у сфері штучного інтелекту», — сказав Брукс.

«Для тих же, хто працює з ІІ, цілком очевидно, наскільки складним буває домогтися роботи чогось на рівні готового продукту».

Неправильне уявлення ІІ

Частина проблеми випливає ще й з того факту, що ми називаємо все це «штучним інтелектом». Правда в тому, що цей «інтелект» зовсім не схожий на людський інтелект, який в довідниках і словниках лексичних зазвичай описується як «здатність до навчання, розуміння і пристосованості до нових ситуацій».

Паскаль Кауфман, генеральний директор Starmind, стартапу, пропонує допомогу іншим компаніям у використанні колективного людського інтелекту в пошуках рішень проблем у сфері бізнесу, протягом 15 останніх років вивчав нейробиологию. Людський мозок і комп'ютер, зазначає Кауфман, працюють зовсім по-різному, і було б очевидною помилкою їх порівнювати.

«Аналогія – мозок працює як комп'ютер – дуже небезпечна і стоїть перешкодою в прогресі розвитку ШІ», — говорить Кауфман.

Експерт також вважає, що ми не просунемося в розумінні людського інтелекту, якщо будемо розглядати його в технологічному плані.

«Це омана, що алгоритми працюють як людський мозок. Людям просто подобаються алгоритми, і тому вони думають, що мозок можна описати за їх допомогу. Я ж вважаю, що це в корені невірно», — додає Кауфман.

Якщо щось піде не так

Є безліч прикладів, коли ШІ-алгоритми виявляються далеко не такі розумні, як ми звикли про них думати. І одним з, мабуть, найбільш безславних може служити ІІ-алгоритм Тей (Tay), створений командою розробки ШІ-систем компанії Microsoft і вийшов з-під контролю в минулому році. Знадобилося менше одного дня, щоб перетворити бота в цього расиста. Експерти кажуть, що це може статися з будь-ШІ-системою, коли їй пропонують погані приклади для наслідування. У випадку з Тей, вона потрапила під вплив расистських та інших образливих лексичних словоформ. А так як вона була запрограмована на «навчання» і «дзеркальне поведінка», то незабаром вийшла з-під контролю дослідників.

В рамках отримав широке поширення дослідження фахівців Корнеллського і університеті штату вайомінг університетів було встановлено, що дуже легко обдурити алгоритми, натреновані на ідентифікацію цифрових зображень. Фахівці виявили, що зображення, яке виглядало як «скремблированная нісенітниця» для людей, алгоритмом визначалося як зображення якого-небудь повсякденного об'єкта кшталт «шкільного автобуса».

Згідно статті, опублікованій в MIT Tech Review і описывавшей цей проект, не до кінця зрозуміло, чому алгоритм можна обдурити тим чином, яким це робили дослідники. Що вдалося з'ясувати, так це те, що люди навчилися розпізнавати, що перед ними знаходиться – небудь самодостатня картинка, або якесь незрозуміле зображення. Алгоритми, у свою чергу, аналізують пікселі, легше піддаються маніпуляції і обману.

Що ж стосується самокерованих автомобілів, то тут виявляється все набагато складніше. Є деякі речі, які людина розуміє, коли готується зіткнутися з певними ситуаціями. Машину ж цього навчити буде дуже складно. У великій статті, опублікованій в одному з автомобільних блогів Родні Бруксом в січні цього року, наводяться кілька прикладів таких ситуацій, включаючи ту, в якій описується, як безпілотний автомобіль наближається до дорожнього знаку «Стоп», розташованому поруч з пішохідним переходом у місті, в самому початку якого стоять і спілкуються дорослий з дитиною.

Алгоритм, найімовірніше, буде налаштований так, щоб дочекатися переходу пішоходів через дорогу. Але що, якщо у цих пішоходів і в думках не було переходити дорогу, так як вони стоять і чекають, скажімо, шкільний автобус? Водій-людина в цьому випадку міг би посигналити пішоходам, які у відповідь могли б помахати йому рукою, повідомляючи про те, що той може проїжджати. Безпілотний автомобіль в такій ситуації може просто застрягти намертво, нескінченно чекаючи переходу людей через дорогу, тому що алгоритм не має розуміння таких унікальних людських сигналів, пише Брукс.

Кожен з таких прикладів показує нам, наскільки далеко нам ще належить просунутися в розвитку алгоритмів штучного інтелекту. Наскільки сильно зможуть досягти успіху розробники генералізованого ШІ – це ще питання. Існують речі, з якими людина здатна запросто впоратися, проте для навчання алгоритму це буде справжньою мукою. Чому? Тому що ми, люди, не обмежені в нашому навчанні набором певних завдань.