Творець віртуальних асистентів вважає, що вони приречені без нового підходу в області ШІ

Борис Кац побудував кар'єру, допомагаючи машин оволодіти мовою. Він вважає, що нинішніх технологій ІІ недостатньо, щоб зробити Siri або Alexa по-справжньому розумними. Siri, Alexa, Home — технології, які аналізують мову, все частіше знаходять своє застосування в повсякденному житті. Але Бориса Каца, головного наукового співробітника MIT, це не вражає. За останні 40 років він вніс ключовий внесок в лінгвістичні здібності машин.

У 1980-х він розробив систему START, здатну відповідати на сформульовані природною мовою запити. Ідеї, використані в START, допомогли Watson перемогти в Jeopardy! і заклали основу для сьогоднішніх чатботов.

Але зараз Кац стурбований тим, що ця область спирається на ідеї, яким багато років, а ці ідеї ніяк не наближають машинний інтелект до реального. MIT Technolody Review взяв інтерв'ю у Бориса Каца. Давайте дізнаємося, куди потрібно направляти дослідження, щоб машини стали розумнішими.

Як зробити штучний інтелект по-справжньому розумним

З чого почалася ваша історія навчання комп'ютерів використання мови?

Вперше я зіткнувся з комп'ютерами в 1960-х роках, будучи студентом Московського університету. Машина, якою я користувався, називалася " БЭСМ-4. Для зв'язку з нею можна було використовувати тільки вісімковий код. Мій перший комп'ютерний проект включав навчання комп'ютера читання, розуміння та розв'язання математичних задач.

Потім я розробив комп'ютерну програму, друкарську вірші. Я до сих пір пам'ятаю, як стояв у машинній кімнаті в очікуванні чергового вірша, створеного машиною. Я був приголомшений красою віршів; здавалося, що вони створені розумним істотою. І тоді і там я зрозумів, що хочу все життя працювати над створенням інтелектуальних машин і пошуком способів спілкування з ними.

Що ви думаєте про Siri, Alexa та інших особистих помічників?

Цікаво говорити про це, тому що, з одного боку, ми дуже пишаємося цим неймовірним прогресом — у кожного в кишені є щось, що ми допомогли створити багато-багато років тому, і це чудово.

Але з іншого боку, ці програми неймовірно дурні. Так що почуття гордості перемежовується почуттям сорому. Ви запускаєте щось, що люди вважають розумними, але воно навіть і близько не таке.

Завдяки машинного навчання, в штучному інтелекті відбувся значний прогрес. Хіба це не робить машини краще в розумінні мови?

З одного боку, є цей драматичний прогрес, але з іншого — частина цього прогресу роздута. Якщо ви подивитеся на досягнення машинного навчання, всі ідеї з'явилися 20-25 років тому. Просто інженери в результаті виконали велику роботу і втілили ці ідеї в життя. Якою б ця технологія великою не була, вона не вирішить проблему справжнього розуміння — справжнього інтелекту.

На дуже високому рівні сучасні методи — статистичні методи, такі як машинне навчання і глибоке навчання, дуже гарні для знаходження закономірностей. І оскільки люди зазвичай роблять одні і ті ж пропозиції більшу частину часу, їх дуже легко знайти в мові.

Подивіться на предиктивный введення тексту. Машина краще вас знає, що ви збираєтеся сказати. Ви можете назвати це розумним, але насправді вона просто вважає слова та цифри. Оскільки ми постійно говоримо одне й те ж, дуже легко створювати системи, які ловлять закономірності і ведуть себе так, ніби вони розумні. Це фіктивний характер більшої частини сучасного прогресу.

Як щодо «небезпечного» інструменту генерації мови ?

Ці приклади дійсно вражають, але я не зовсім розумію, чому вони нас вчать. Мовна модель OpenAI була навчена на 8 мільйонів веб-сторінок, щоб передбачати наступне слово, враховуючи всі попередні слова в тексті (на таку ж тему). Цей величезний обсяг навчання, безумовно, забезпечує локальну узгодженість (синтаксичну і навіть семантичну) тексту.

Як ви думаєте, чому штучний інтелект рухається в неправильному напрямку?

В обробці мови, як і в інших областях, був досягнутий прогрес у навчанні моделей на величезних обсягів даних — мільйонах пропозицій. Але людський мозок не може вивчити мову, використовуючи таку парадигму. Ми не залишаємо наших дітей з енциклопедією в ліжечку, очікуючи, що вони оволодіють мовою.

Коли ми бачимо щось, ми описуємо це мовою; коли ми чуємо, як хтось говорить щось, ми уявляємо, як описані об'єкти і події виглядають у світі. Люди живуть у фізичному середовищі, наповненої візуальними, тактильними й лінгвістичними сенсорними даними, і надмірна і взаємодоповнюючий характер цих вводів дозволяє дітям осмислювати світ і одночасно вивчати мову. Можливо, вивчаючи ці методи в окремо, ми зробили проблему складніше, а не простіше?

Чому здоровий глузд важливий?

Скажімо, ваш робот допомагає вам збирати речі, і ви говорите йому: «Ця книга не поміститься в червону коробку, тому що вона занадто маленька». Звичайно, ви хочете, щоб робот зрозумів, що червона коробка занадто маленька і ви могли продовжити змістовну розмову. Але якщо ви скажете роботу: «Ця книга не поміститься в червону коробку, тому що вона занадто велика», робот повинен здогадатися, що це книга дуже велика, а не коробка.

Розуміння, до якої сутності розмови йде відсилання, дуже важливо, і люди виконують цю задачу кожен день. Тим не менш, як ви могли бачити з цих та інших прикладів, воно часто спирається на глибоке розуміння світу, який в даний час недоступний для наших машин:розуміння здорового глузду і інтуїтивної фізики, розуміння переконань та намірів інших, здатність візуалізувати і міркувати про причини і наслідку, і багато іншого.

Ви намагаєтеся навчити машини мови, використовуючи симулированные фізичні світи. Чому?

Я ще не бачив дитини, батьки якої кладуть енциклопедію в ліжечко і кажуть: «Іди вчися». Але так роблять наші комп'ютери сьогодні. Я не думаю, що ці системи будуть вчитися так, як ми хочемо, або розуміти світ так, як ми хочемо.

У випадку з дітьми, вони відразу ж отримують тактильні відчуття від світу. Потім немовлята починають бачити світ і вбирати події і властивості об'єктів. Потім дитина чує мовної enter. І тільки так твориться магія розуміння.

Який підхід найкращий?

Одним із способів просування вперед буде отримання більш глибокого розуміння людського інтелекту, а потім використання цього розуміння для створення інтелектуальних машин. Дослідження ШІ повинні ґрунтуватися на ідеях психології розвитку, когнітивної науки і нейробіології, а ІІ моделі повинні відображати те, що вже відомо про те, як люди вивчають і розуміють світ.

Реальний прогрес почнеться тільки тоді, коли вчені вийдуть зі своїх офісів і почнуть спілкуватися з людьми в інших областях. Разом ми наблизимося до розуміння інтелекту і з'ясування того, як відтворити його в інтелектуальних машинах, які можуть говорити, бачити і діяти в нашому фізичному світі.

Згодні з Борисом? Розкажіть .