П'ять технологічних експертів поділилися своїми страхами і побоюваннями відносно ІІ

Універсальний штучний інтелект зможе зробити сучасний світ більш привабливим місцем для життя, заявляють дослідники. Він зможе лікувати нас від раку, в цілому поліпшить здоров'я по всьому світу і звільнить нас від щоденних рутинних завдань, на які ми витрачаємо велику частиною свого життя. Саме ці аспекти були головною темою для розмови серед інженерів, інвесторів, дослідників і політиків, присутніх на нещодавній спільній мультиконференції з питань розробки штучного інтелекту людського рівня.

Але були на цьому заході і ті, хто бачить у штучному інтелекті не тільки користь, але і потенційну загрозу. Одні висловлювали свої побоювання з приводу підвищення безробіття, оскільки з приходом повноцінного ШІ люди почнуть втрачати свої робочі місця, звільнивши їх для більш гнучких, не схильних до втоми роботів, наділених сверхразумом; інші натякали про можливість повстання машин, якщо ми пустимо на самоплив. Але де саме нам слід провести межу між безпідставною панікерством і реальною турботою про наше майбутнє?

Портал Futurism звернувся з таким питанням до п'яти експертів в області розробок штучного інтелекту, і спробував з'ясувати, що саме в ІІ найбільше лякає його творців.

Кеннет Стенлі, професор Університету Центральної Флориди, старший технічний директор і науковий співробітник лабораторії штучного інтелекту компанії Über:

«Я думаю, що найбільш очевидні побоювання пов'язані з тим, що ШІ буде використана на шкоду людині. І насправді є безліч сфер, де таке може статися. Ми повинні докласти всі зусилля для того, щоб ця погана сторона в підсумку не вийшла назовні. Досить складно знайти правильне рішення в питанні про те, як зберегти відповідальність прийнятих дій за ІЇ. Це питання багатогранний і вимагає розгляду не тільки з наукової позиції. Іншими словами, у пошуку його розв'язання потрібно участь всього суспільства, а не тільки наукового середовища».

Про те, як розробити безпечний ІІ:

«Будь-яка технологія може бути використана як на благо, так і на шкоду. Штучний інтелект в цьому відношенні є черговим прикладом. Люди завжди боролися з тим, щоб нові технології не потрапили у погані руки та не використовувалися в мерзенних цілях. Я вважаю, що і в питанні ІІ ми зможемо впоратися з цим завданням. Необхідна правильна розстановка акцентів і пошук балансу в використанні цієї технології. Це зможе застерегти нас від дуже багатьох потенційних проблем. Більш конкретні рішення, я, напевно, запропонувати не зможу. Єдине, що хотілося б сказати: ми повинні зрозуміти і прийняти відповідальність за те вплив, яке ИИ може надати на все суспільство».

Іраклій Берідзе, голова Центру штучного інтелекту і робототехніки при Міжрегіональному науково-дослідному інституті ООН з питань злочинності та правосуддя (ЮНИКРИ):

«Я думаю, що найнебезпечніша річ навколо ІІ пов'язана з темпами розробки – з тим, як швидко він буде створений і як швидко ми зможемо до нього адаптуватися. Якщо цей баланс буде порушений, ми можемо зіткнутися з проблемами».

Про тероризм, злочинності і інших джерелах ризику:

«З моєї точки зору, основна небезпека може полягати в тому, що ШІ зможуть скористатися кримінальні структури і великі терористичні організації, спрямовані на дестабілізацію світового порядку. Кібертероризм і дрони, оснащені ракетами і бомбами – це вже реальність. В майбутньому сюди можуть додатися роботи, оснащені системами ІІ. Це може стати серйозною проблемою.

Інший великий ризик масового впровадження ІІ може бути пов'язаний з ймовірною втратою робочих місць людьми. Якщо ці втрати будуть масовими, а відповідного рішення у нас не буде, то це стане дуже небезпечною проблемою».

«Але це лише негативна сторона медалі даної технології. Я переконаний в тому, що в своїй основі ШІ не є зброєю. Це, швидше, інструмент. Дуже потужний інструмент. І цей потужний інструмент може бути використаний як у добрих, так і поганих цілях. Наше завдання полягає в тому, щоб зрозуміти і мінімізувати ризики, пов'язані з його використанням, а також у тому, щоб він використовувався тільки в хороших цілях. Ми повинні зосередитися на тому, щоб витягти максимум позитивної вигоди від використання даної технології».

Джон Ленгфорд, головний науковий співробітник корпорації Microsoft:

«Я думаю, що основну небезпеку будуть представляти дрони. Автоматизовані дрони можуть стати справжньою проблемою. Поточний рівень обчислювальної потужності автономного озброєння недостатньо високий для виконання якихось екстраординарних завдань. Однак я цілком можу собі уявити, як через 5-10 років на борту автономного озброєння будуть проводитися розрахунки на рівні суперкомп'ютерів. Дрони використовуються при бойових діях вже сьогодні, але вони як і раніше управляються людиною. Через деякий час оператор-людина вже не знадобитися. Машини стануть досить ефективні для самостійного виконання поставлених завдань. Саме це мене турбує».

Хава Зигельман, програмний менеджер микросистемых технологій DARPA:

«Будь-яка технологія може бути використана на шкоду. Я думаю, що все залежить від того, в чиї руки ця технологія потрапить. Я не думаю, що існують погані технології, я думаю, що існуютьпогані люди. Все зводиться до того, хто має доступ до цих технологій і як саме він їх використовує».

Томас Миколов, науковий співробітник лабораторії Facebook AI:

«Якщо що-то привертає інтерес та інвестиції, навколо цього завжди знаходяться люди, які не проти цим зловживати. Мене засмучує той факт, що деякі люди намагаються продати ІІ і барвисто описують проблеми, які цей ІІ зможе вирішити. Хоча по факту ніякого ІІ ще не створено.

Всі ці стартапи-одноденки обіцяють золоті гори і наводять приклади нібито роботи ІІ, хоча насправді, нам показують лише вдосконалені або оптимізовані технології сьогодення. При цьому в більшості випадків про удосконалення оптимізації цих технологій мало хто замислювався. Тому що вони марні. Взяти хоча б тих же чат-ботів, яких видають за штучний інтелект. І ось, витративши десятки тисяч годин на оптимізацію виконання однієї єдиної задачі, ці стартапи приходять до нас і кажуть про те, що досягли чогось, чого не могли досягнути інші. Але це ж смішно.

Якщо говорити відверто, більшість останніх нібито технологічних проривів подібних організацій, назви яких мені б не хотілося називати, нікому до цього не були цікаві, не тому, що ніхто більше не міг їх зробити, а просто тому, що ці технології не генерують ніякої фінансової виручки. Вони абсолютно марні. Це ближче до шарлатанству. Особливо в тих випадках, коли ІЇ розглядається як інструмент, що дозволяє максимально оптимізувати процес вирішення однієї єдиної і вузьконаправленої завдання. Його неможливо масштабувати ні під що-небудь інше, крім як на виконання найпростіших завдань.

При цьому будь-який, хто хоч якось почне критикувати подібні системи одразу ж стикається з проблемами, які будуть йти врозріз з солодкими заявами таких компаній».

чи Згодні ви з думками експертів? Поділіться своїми думками .