Люди не довіряють ІІ. Як це виправити?

Штучний інтелект вже може передбачати майбутнє. Поліція використовує його для складання карти, що відбиває, коли і де може статися злочин. Лікарі використовують його для прогнозування, коли у пацієнта може статися інсульт або серцевий напад. Вчені навіть намагаються дати ІІ уяву, щоб він міг передбачити несподівані події.

Багато рішень у нашому житті вимагають хороших прогнозів, і агенти ШІ майже завжди краще справляються з ними, ніж люди. Проте для всіх цих технологічних досягнень нам як і раніше не вистачає впевненості в прогнозах, які дає штучний інтелект. Люди не звикли покладатися на ІІ і воліють довіряти експертам в особі людей, навіть якщо ці експерти помиляються.

Якщо ми хочемо, щоб штучний інтелект ніс користь людям, нам потрібно навчитися довіряти йому. Для цього нам треба зрозуміти, чому люди так наполегливо відмовляються довіряти ШІ.

Довіртеся докторові Роботу

Спроба IBM уявити суперкомпьютерную програму лікарям-онкологам (Watson for Oncology) стала провальною. ІІ обіцяв надати високоякісні рекомендації по лікуванню 12 видів раку, на частку яких припадає 80% випадків у світі. На сьогоднішній день більше 14 000 пацієнтів отримали рекомендації на підставі його розрахунків.

Але коли лікарі вперше зіткнулися з Watson, вони опинилися у досить складній ситуації. З одного боку, якщо Watson давав вказівки стосовно лікування, збігаються з їхніми власними думками, медики не бачили великої цінності в рекомендаціях ІІ. Суперкомп'ютер просто розповідав їм те, що вони вже знали, і ці рекомендації не змінювали фактичного лікування. Це, можливо, давало лікарям спокій і впевненість у власних рішеннях. Але IBM ще не довела, що Watson дійсно збільшує відсоток виживаності з раком.

З іншого боку, якщо Watson давав рекомендації, які розходилися з думкою експертів, лікарі укладали, що Watson некомпетентний. І машина не могла пояснити, чому її лікування повинно спрацювати, тому що її алгоритми машинного навчання були занадто складними, щоб їх могли зрозуміти люди. Відповідно, це призводило до ще більшого недовіри, і багато лікарі просто ігнорували рекомендації ШІ, покладаючись на власний досвід.

В результаті головний медичний партнер IBM Watson — MD Anderson Cancer Center — нещодавно повідомив про відмову від програми. Датська лікарня також повідомила, що відмовляється від програми після того, як виявила, що лікарі-онкологи не згодні з Watson в двох випадках з трьох.

Проблема онкологічного Watson була в тому, що лікарі йому просто не довіряли. Довіра людей часто залежить від нашого розуміння того, як думають інші люди, і власного досвіду, зміцнює впевненість в їх думці. Це створює психологічне відчуття безпеки. ІЇ ж, з іншого боку, відносно нова і незрозуміла для людей штука. Він приймає рішення, грунтуючись на складній системі аналізу для виявлення потенційних прихованих закономірностей та слабких сигналів, що випливають із великих обсягів даних.

Навіть якщо його можна пояснити технічною мовою, процес прийняття рішень ШІ, як правило, занадто складний, щоб його могли зрозуміти більшість людей. Взаємодія з чимось, чого ми не розуміємо, може викликати тривогу і створити відчуття втрати контролю. Багато людей просто не розуміють, як і з чим працює ШІ, тому що це відбувається десь за ширмою, у фоновому режимі.

З цієї ж причини вони гостріше помічають випадки, коли ІЇ помиляється: згадайте алгоритм Google, який класифікує кольорових людей як горил; чатбот Microsoft, який став нацистом менш ніж за день; автомобіль Tesla, що працює в режимі автопілота, в результаті якого стався нещасний випадок зі смертельним результатом. Ці невдалі приклади отримали непропорційно велику увагу засобів масової інформації, підкреслюють порядку того, що ми не можемо покладатися на технології. Машинне навчання не є на 100% надійним, частково тому, що його проектують люди.

Розкол суспільства?

Почуття, які викликає штучний інтелект, йдуть глибоко в природу людської істоти. Недавно вчені провели експеримент, в ході якого опитали людей, які дивилися фільми про штучний інтелект (фантастичні), на тему автоматизації в повсякденному житті. З'ясувалося, що незалежно від того, був ІЇ у фільмі зображений в позитивному або негативному ключі, простий перегляд кінематографічного представлення нашого технологічного майбутнього поляризує відносини учасників. Оптимісти стають ще більш оптимістичними, а скептики закриваються ще сильніше.

Це говорить про те, що люди упереджено ставляться до ШІ, відштовхуючись від власних міркувань, така глибоко укорінена тенденція упередженого підтвердження: тенденція шукати або інтерпретувати інформацію таким чином, щоб підтвердити заздалегідь були концепції. Оскільки ШІ все частіше з'являється в медіа, це може сприяти глибокому поділу суспільства, розколу між тими, хто користується ШІ, і тими, хто його відкидає. Переважна група людей може отримати серйозну перевагу або гандикап.

Три виходу з кризи довіри ІІ

На щастя, у нас є думки на тему того, як впоратися з довірою до ШІ. Одне тільки наявність досвіду роботи з ІІ може значно поліпшити ставлення людей до цієї технології. Є також свідчення, що вказують на те, що чим частіше ви використовуєте певні технології (наприклад, Інтернет), тим більше ви їмдовіряєте.

Інше рішення може полягати в тому, щоб відкрити «чорний ящик» алгоритмів машинного навчання і зробити їх роботу більш прозорою. Такі компанії, як Google, Airbnb і Twitter, вже публікують звіти прозорості про державних запитах і розкриття інформації. Подібна практика в системах ШІ допоможе людям отримати потрібне розуміння того, як алгоритми приймають рішення.

Дослідження показують, що залучення людей до процесу прийняття рішень ІІ також підвищить ступінь довіри і дозволить ІІ вчитися на людському досвіді. Дослідження показало, що люди, яким давали можливість злегка модифікувати алгоритм, відчували більшу задоволеність від результатів його роботи, по всій видимості, через почуття переваги та можливості впливати на майбутній результат.

Нам необов'язково розуміти складну внутрішню роботу систем ШІ, але якщо дати людям хоча б трохи інформації і контролю над тим, як ці системи реалізуються, у них з'явиться більше довіри і бажання прийняти ІЇ у повсякденне життя.