Алгоритми життя і смерті: як зрозуміти штучний інтелект, який буде лікувати людей?

Коли мова заходить про застосування машинного навчання, найчастіше ведуть розмови про медичній сфері. І це не дивно: величезна індустрія, яка генерує феноменальний обсяг даних і доходів, в якій технологічні досягнення можуть покращувати або рятувати життя мільйонів людей. Чи тиждень проходить без появи дослідження, яке припускає, що алгоритми дуже скоро будуть краще експертів виявляти пневмонію або хвороба Альцгеймера — захворювання складних органів, від ока до серця. І все до цього йде, але…

Проблеми переповнених лікарень і перевантаженого медперсоналу отруюють державні системи охорони здоров'я і призводять до зростання витрат на приватні системи охорони здоров'я. І тут, знову ж таки, алгоритми пропонують привабливу рішення. Скільки разів на насправді потрібно відвідати лікаря? Можна замінити ці відвідування розумним чатботом — який буде оснащений портативними діагностичними тестами, використовуючи останні досягнення в галузі біотехнологій? Непотрібні відвідування можна було б скоротити, та пацієнтів можна було б діагностувати та направляти до фахівців швидше, не чекаючи первинної консультації.

Як і у випадку з алгоритмами штучного інтелекту, мета полягає не в тому, щоб замінити лікарів, а в тому, щоб дати їм інструменти для скорочення повсякденних або повторюваних частин роботи. З ІІ, який може досліджувати тисячі сканів за хвилину, «нудна рутина» залишається на машинах, і лікарі можуть зосередитися на тих частинах роботи, які вимагають більш складного, тонкого, заснованого на досвіді судження про кращі методи лікування і потребах пацієнта.

Високі ставки

І все ж, як і у випадку з алгоритмами ІІ, існують ризики, пов'язані з їх використанням — навіть для завдань, які вважаються незначними. Проблеми алгоритмів «чорного ящика», які приймають незрозумілі рішення, досить серйозні, коли ви намагаєтеся зрозуміти, чому автоматизований чатбот-рекрутер не вражений вашою розповіддю під час співбесіди. В контексті охорони здоров'я, де приймаються рішення можуть означати життя або смерть, наслідки алгоритмічного збою можуть бути фатальними.

Нейронні мережі чудово справляються з обробкою великої кількості тренувальних даних і встановлення зв'язків, поглинанням нижчих закономірностей або логіки системи в прихованих шарах лінійно алгебри; чи то виявлення раку шкіри по фотографіях або навчання письму псевдошекспировским мовою. Однак вони жахливо пояснюють нижележащую логіку виявлених ними відносин: є дещо більше, ніж просто рядок цифр, статистичні «ваги» між шарами. І вони не можуть відрізнити кореляцію від причинно-наслідкового зв'язку.

Виникають цікаві дилеми для медичних працівників. Мрія про великі даних в медицині полягає в тому, щоб постачати нейронну мережу «величезними масивами даних про здоров'я», знаходити складні, неявні відносини і виносити індивідуальні оцінки щодо пацієнтів. Якщо такий алгоритм виявиться невиправдано ефективним у діагностиці стану здоров'я або призначенні лікування, але у вас не буде наукового розуміння того, як цей зв'язок працює насправді?

Занадто багато потоків, які потрібно розплутати

Статистичні моделі, які лежать в основі таких нейронних мереж, часто припускають, що змінні незалежні один від одного, але в складній, взаємодіючої системи на зразок людського тіла, це не завжди так.

У певному сенсі це відома концепція в медичних науках існує багато явищ і зв'язків, які спостерігалися десятиліттями, але досі погано вивчені на біологічному рівні. Парацетамол — одне з найпопулярніших болезаспокійливих засобів, але до цих пір ведуться активні дискусії про його дії. Лікарі-практики можуть прагнути використовувати будь-який інструмент, найбільш ефективний, незалежно від того, ґрунтується на глибокому науковому розумінні. Любителі копенгагенської інтерпретації квантової механіки можуть перефразувати це як «Заткнися і лікуй!».

Зрозуміло, в цій області ведуться дебати про те, чи не ризикуємо ми з цим підходом упустити з виду більш глибоке розуміння, яке в кінцевому рахунку виявиться більш плідним — наприклад, для пошуку нових ліків.

Крім філософських закарлючок, є і практичні проблеми: якщо ви не розумієте, як працює чорний ящик медичного алгоритму, як підходити до питань клінічних випробувань та регулювання?

Може знадобитися прозорість щодо того, як функціонує алгоритм — даних, на які він дивиться, порогових значень, на основі яких робить висновки або надає консультації, але це може суперечити мотивів отримання прибутку і прагнення до таємності в медичних стартапах.

Одним з рішень може бути виняток алгоритмів, які не можуть пояснити самі себе або не покладаються на добре зрозумілу медичну науку. Але це може перешкодити людям пожинати плоди корисної роботи таких алгоритмів.

Оцінка алгоритмів

Нові алгоритми в галузі охорони здоров'я не зможуть зробити те, що фізики зробили з квантовою механікою, тому що не будуть розгорнуті в польових умовах. І багато алгоритми поліпшуються саме працюючи в польових умовах. Як же нам вибрати максимально багатообіцяючий підхід?

Створення стандартизованої системи клінічних випробувань і тестування, яка в рівній мірі буде застосовна до алгоритмів, які працюють по-різномуабо використовують різні вхідні дані, буде складним завданням. Клінічні випробування, в яких використовуються вибірки невеликого розміру, наприклад, з алгоритмами, які намагаються персоналізувати лікування для окремих людей, також будуть складними. З невеликими вибірками і слабким науковим розумінням того, що відбувається неможливо буде визначити, досяг успіху алгоритм або зазнав краху, тому що він може бути непоганим в цілому, але показати невдалий приклад.

Додамо в цю суміш навчання і картина стає ще більш складною. «Що ще більш важливо, ідеальний алгоритм у «чорному ящику» пластичний і постійно оновлюється, тому традиційна модель клінічних випробувань не підходить, оскільки покладається на статичний продукт, що підлягає стабільної оцінці».

Доведеться підганяти всю систему медичних та клінічних випробувань.

Досягнення балансу

охорони здоров'я відображає історію штучного інтелекту у багатьох аспектах. Невипадково IBM намагалася змінити сферу охорони здоров'я, застосовуючи свій штучний інтелект Watson.

Баланс доведеться знайти. Нам доведеться знайти спосіб обробляти великі дані, використовувати страшну силу нейронних мереж та автоматизувати процес мислення. Ми повинні усвідомлювати недоліки і упередження такого підходу до вирішення проблем.

При цьому ми повинні вітати ці технології, оскільки вони можуть бути корисним доповненням до навичок, знань і глибшому розумінню, яке можуть надати люди. Подібно нейронної мережі, наші галузі повинні навчатися, розширюючи цю кооперацію в майбутньому.

Згодні? Давайте обговоримо в нашому