Чому вченим не слід покладатися на ІЇ у питаннях наукових відкриттів, принаймні, зараз

Ми живемо в золотому столітті наукових даних, оточивши себе величезними запасами генетичної інформації, медичних зображень і даних про астрономічних спостереженнях. Поточний можливості алгоритмів машинного навчання дозволяють штучного інтелекту максимально швидко і в той же час дуже уважно вивчати ці дані, нерідко відкриваючи тим самим двері до потенційно новим науковим відкриттям. Однак ми не повинні сліпо довіряти результатам наукових досліджень, що проводяться ІІ, вважає науковий фахівець Університету Райса Женевера Аллен. Принаймні, не при поточному рівні розвитку цієї технології. На думку вченого, проблема полягає в тому, що сучасні системи ШІ не володіють здатністю критичної оцінки результатів своєї роботи.

За словами Аллен, ІІ-систем використовують методи машинного навчання, тобто коли навчання відбувається в процесі застосування рішень безлічі подібних завдань, а не просто завдяки впровадженню та дотриманню новим правилам і інструкціям, можна довіряти прийняття деяких рішень. Якщо говорити точніше, на ШІ цілком можна покласти завдання у вирішенні питань в тих сферах, де кінцевий результат може бути легко перевірено та проаналізовано самою людиною. В якості прикладу можна взяти, скажімо, підрахунок кількості кратерів на Місяці або прогноз повторних поштовхів після землетрусу.

Проте точність і ефективність більш комплексних алгоритмів, які використовуються для аналізу великих масивів даних для пошуку і визначення раніше невідомих факторів або взаємозв'язків між різними функціями «перевірити набагато складніше», зазначає Аллен. Таким чином неможливість перевірки даних, підібраних такими алгоритмами, може призводити до хибних наукових висновків.

Візьмемо, наприклад, точну медицину, коли для розробки ефективних методів лікування фахівці проводять аналіз метаданих пацієнтів, намагаючись відшукати певні групи людей з аналогічними генетичними особливостями. Деякі ІІ-програми, призначені для «просіву» генетичних даних, дійсно показують свою ефективність, успішно визначаючи групи пацієнтів зі схожою схильністю, наприклад, до розвитку раку грудей. Однак вони виявляються зовсім неефективні в питаннях визначення інших видів раку, наприклад, колоректального. Кожен алгоритм проводить аналіз даних по своєму, тому при об'єднанні результатів нерідко може виникати конфлікт у класифікації вибірки пацієнтів. Це в свою чергу змушує вчених задуматися про те, яким ІІ в кінцевому підсумку довіряти.

Ці суперечності виникають із-за того, що алгоритми аналізу даних розроблені таким чином, щоб підкорятися закладеним в ці алгоритми інструкціям, які не залишають місця для нерішучості, непевності, пояснює Аллен.

«Якщо ви поставите завдання алгоритму кластеризації знайти такі групи у своїй базі даних, то він виконає завдання і скаже, що знайшов кілька груп за заданими параметрами. Скажіть знайти три групи, він знайде три. Запитайте знайти чотири, він знайде чотири», — коментує Аллен.

насправді ж справжня ефективність подібного ІІ буде демонструватися тоді, коли програма зможе відповісти приблизно так: «Я дійсно вважаю, що ця група пацієнтів підходить під потрібну класифікацію, однак у випадку ось цих от людей, дані яких я також перевірив і порівняв, я не зовсім впевнений».

Ученим не подобається невизначеність. Однак традиційні методи визначення невизначеностей вимірювань розроблені для тих випадків, коли потрібно провести аналіз даних, які були спеціально відібрані для оцінки певної гіпотези. Програми ШІ для інтелектуального аналізу даних працюють зовсім не так. Ці програми не проваджені якийсь керівною ідеєю і просто проводять аналіз масивів даних, зібраних без будь-якої окремо взятої певної мети. Тому зараз багато дослідників в області ШІ, в тому числі і сама Аллен, займаються розробками нових протоколів, які дозволять ІІ-систем нового покоління оцінювати точність і відтворюваність своїх відкриттів.

Дослідник пояснює, що один нових методів глибинного аналізу буде заснований на концепті повторної вибірки. Скажімо, якщо ШІ-система імовірно зробить важливе відкриття, наприклад, визначить групи клінічно важливих для дослідження пацієнтів, то це відкриття має відображатися і в інших базах даних. Створювати нові і великі масиви даних для того, щоб перевірити правильність вибірки ІІ дуже дорого для вчених. Тому, на думку Аллан, можна використовувати підхід, при якому «буде використовуватися вже наявний набір даних, інформація в якому буде випадково перемішуватися таким чином, щоб це імітувало абсолютно нову базу даних». І якщо раз за разом ШІ зможе визначати характерні особливості, що дозволяють провести потрібну класифікацію, «то в такому разі можна буде вважати, що у вас на руках з'явилося справді реальне відкриття», додає Аллан.

Підписуйтесь на наш , щоб бути в курсі останніх новин зі світу науки і технологій.