Ставши кіборгами, чи зможемо ми захистити наші мізки від злому?

Швидкий розвиток сфери мозок-машинних інтерфейсів і нейропротезирования поступово підводить нас до революції в методах лікування і підтримки паралізованих людей. У той же час ці технології в майбутньому можуть знайти собі більш універсальне застосування і стати відправною точкою для подальшої еволюції людства і її переходу на новий вид – кіборгів. Але перед тим, як ми досягнемо таких висот, нам необхідно переконатися в тому, що подібні нейронні пристрої абсолютно надійні, безпечні і повністю захищені від зовнішнього впливу – хакерської атаки, якщо простіше.

З мріями про нашому світлому кібернетичному майбутньому дослідники з женевського Центру біо - і нейроинжиниринга Вісса в Швейцарії (Wyss Center for Bio and Neuroengineering) опублікували на порталі Science свою роботу «Help, hope, and hype: Ethical dimensions of neuroprosthetics». Завдання авторів полягає не тільки в описі тих можливостей, які перед нами відкриє сфера нейротехнологій, але і в підвищенні суспільної уваги до тих небезпек, які можуть підстерігати нас на шляху до цього сверхвысокотехнологичному майбутньому. І важливим варто зазначити, що автори розробили кілька шляхів, які дозволять пом'якшити потенційні проблеми ще до їх виникнення.

Не відзначити швидке розвиток нейротехнологій стає неможливим вже сьогодні. Інженерами і дослідниками ведеться активна розробка і вдосконалення мозок-машинних інтерфейсів, які дозволять паралізованим людям відновити контроль над своїми кінцівками, ампутантам – ефективно управляти роботизованими протезами, а пацієнтам з порушенням мовних функцій відновити здатність за рахунок здатності у передачі своїх думок. Дивно, але вже зараз спостерігається великий прогрес в цьому напрямку. Вчені створили екзоскелет, який дозволяє людині з паралізованими нижніми кінцівками бити по м'ячу. Паралізовану лабораторну мавпу навчили керувати інвалідним кріслом з допомогою думок. Розробляється інтерфейс «мозок — мозок» дозволив людині управляти рухами кінцівок інших людей. Кожен такий технологічний прорив дозволяє нам трохи дізнаватися більше про мозок і про те, як він працює. Але ще більш важливо, що всі ці технології мають потенціал повернення ампутантам і паралізованим людям самостійності та незалежності.

Приходить час привітатися з майбутнім: керовані людським мозком роботи, як на картинці вище, вже починають входити в наше повсякденне життя

Але у всіх цих технологій на жаль, є і зворотна сторона. Як зазначає директор Центру Вісса Джон Донохью, навколо цієї області починають з'являтися серйозні етичні питання і тому саме час почати думати про те, яким чином нейропротезирование і сфера розробок мозок-машинних інтерфейсів можуть зіткнутися зі зловживанням в майбутньому, а також про те, як від цього захиститися.

«Незважаючи на те, що ми досі до кінця не розуміємо, як працює мозок, ми все ближче стаємо до моменту, коли зможемо адекватно декодувати певні мозкові сигнали. Тому ми повинні усвідомлювати, який вплив може чинити на суспільство», — коментує Донох'ю.

«Ми повинні уважно розібрати ймовірні наслідки життя пліч-о-пліч з полуинтеллектуальными машинами, керованими людським мозком, і повинні мати готові розроблені механізми, які зможуть переконати нас в їх безпеки і відповідності нашим морально-етичних норм».

Центр Вісса стурбований тим, що з більш широкою інтеграцією цих нейроустройств в наше повсякденне життя будуть розширюватися і можливості цих інструментів. Вони будуть ставати більш універсальними. Вже зараз мозок-машинні інтерфейси можна використовувати для того, щоб, керуючи роботизованою рукою, схопити чашку або, дивлячись на екран комп'ютера, вибрати певне слово в тексті. Але коли-небудь такі пристрої, тільки більш просунуті, будуть використовуватися як аварійним працівником для ліквідації небезпечної витоку газу, так і мамою дитини, у якої не вистачає зайвих рук, щоб заспокоїти свого малюка, що плаче.

Іди щось не так у цих випадках, наприклад, напівавтоматична роботизована рука робочого поверне не той кран або мати випадково выронит з роботизованих рук своєї дитини, важливо задати собі питання: де починається і закінчується зона відповідальності і хто в таких випадках повинен бути визнаний винним? Юридичній системі майбутнього доведеться визначати, знаходиться у зоні відповідальності виробника роботизованого вироби (конструкції знайдений шлюб або програмна помилка) або користувача (неправильне використання або зовнішнє неавторизоване вплив на цілісність конструкції виробу).

Щоб мінімізувати такі потенційні проблеми, автори обговорюваної сьогодні роботи пропонують, щоб будь-яка полуавтономная система оснащувалася функцією автоматичного блокування та у разі неналежного або незапланованого використання активувалася в обхід прямого каналу взаємодії «мозок — комп'ютер». Якщо штучна кінцівку почне виконувати дії, які користувач не передбачав для виконання, то такий «вимикач» зможе самостійно прийняти рішення по миттєвої деактивації системи, запобігши потенційну біду.

Ще одним аспектом, що турбує дослідників, є безпека приватного життя користувача і необхідність у захистібудь-якої особистої інформації, яка буде записуватися подібними системами. Досить імовірно, що системи, що базуються на інтерфейсі «мозок — комп'ютер», будуть збирати різноманітну інформацію про неврологічному статусі користувача, після чого вона буде передаватися на комп'ютер. Природно, що така схема не може не викликати деякі побоювання з приводу захисту конфіденційних даних. На думку дослідників Центру Вісса, зібрана інформація може бути вкрадена і використана неналежним чином.

«Захист приватної неврологічної інформації про людей, повністю паралізованих і використовують інтерфейси «мозок — комп'ютер» в якості єдиного можливого засобу для комунікації з зовнішнім світом є особливо важливим», — говорить Нільс Бирбаумер, старший науковий співробітник Центру Вісса.

«Успішна калібрування систем, що працюють з інтерфейсом «мозок — комп'ютер» буде, крім усього, залежатиме від того, як їх мозок буде реагувати на особисті питання, пов'язані з їх родиною, наприклад, ім'я, вік і сімейний стан дітей і так далі. Для всіх залучених в даному випадку людей повинна забезпечуватися сувора система захисту особистих даних, які будуть потрібні для коректної роботи функцій пристрою. Мова йде як про інформацію, яка буде з'ясовуватися з допомогою особистих питань, так і неврологічної інформації пацієнта».

Ще сильніше дослідників з Центру Вісса турбує можливість цифрового злому підключеного до мозку пристрої зловмисниками, що може поставити під загрозу життя користувача цього пристрою. З допомогою так званого «злому мозку» можуть проводитися такі маніпуляції з мозковими імплантатами. Хакери зможуть отримати контроль над рухами роботизованих кінцівок людини.

Можливе рішення цієї проблеми буде включати підвищений рівень шифрування інформації, створення надійної мережевої безпеки і відкритого комунікаційного каналу між виробником виробу і його користувачем. Впровадження більшості з цих передбачуваних заходів буде досить непростим завданням, хоча б у зв'язку з імовірним відсутністю універсальних стандартів, які будуть застосовуватися в системах безпеки. Виходячи з цього, фахівці Центру Вісса вважають, що настає час вже зараз починати обмірковувати ті шляхи, які дозволять всім скоординуватися і виробити універсальні індустріальні стандарти по розробці та інтеграції необхідних захисних заходів.

«Деякі види побоювань, на які вказують автори роботи, можуть одного разу перетворитися на реальні проблеми. Тому я згоден з тим, що розробка якихось універсальних стандартів необхідна вже зараз, щоб потім ми не опинилися в ситуації, коли буде вже занадто пізно», — коментує Адам Кейпер, старший науковий співробітник Центру з вивчення етики та громадської думки.

І все ж Кейпер, який не брав участь у написанні обговорюваної роботи, частково скептично розглядає варіант, при якому хтось взагалі захоче зламувати інтерфейс «мозок — комп'ютер» повністю паралізованої людини або інтерфейс, що використовується в якості каналу зворотного нейронної зв'язку між людиною і тренувальними системами, тобто програмами, що використовують неінвазивні методи мозкового сканування, начебто апаратів електроенцефалографії, систем для тренування своєї поведінки, зниження стресу, заняття медитацією і так далі.

«Яку вигоду з такого злому зможе отримати хакер? Та практично ніякої. Безумовно, побоювання з приводу безпеки та захисту особистої інформації можуть стати важливим предметом у майбутньому. Але мені здається, що це передчасне розмова».

Кейпер додає, що підвищений градус побоювань, пов'язаних з впровадженням інтерфейсів «мозок — комп'ютер» і напівавтономних роботів можна порівняти з тим рівнем хвилювання, яке виникає в суспільстві з приводу глобальної роботизації, обіцяє стати наступним кроком розвитку нашого соціального життя. І хоч Кейпер погоджується з деякими аспектами, на його думку, в цілому проблема, принаймні зараз, здається більше надуманою, ніж реальною.

«Автори роботи вважають, що ми не повинні сильно підвищувати медичну грамотність населення і його обізнаність в особливостях функціонування нейрофізіологічних систем, які будуть використовуватися при подібних видах протезування. Але це ж маячня», — вважає Кейпер.

На його думку, саме суспільство навряд чи буде проявляти підвищений інтерес до таких вузькоспеціалізованих темах. І все ж фахівець визнає, що часто досить складно підібрати потрібний час для початку суспільного діалогу з етичних і соціальних питань з приводу масової інтеграції нових технологій, у наше повсякденне життя.

«Завжди є ризик зробити подібні заяви занадто рано, коли ми ще самі не до кінця будемо розуміти, чи дійсно перед нами серйозна проблема. Такі прецеденти вже були. Взяти хоча б наноэтику, прихильники якої ще десятиліття тому, толком не розібравшись в питанні, підняли шум, заявивши, що просунуті нанотехнології з'являться мало не миттєво, і навіть спробували побудувати на цьому справжню академічну дисципліну. Але в підсумку виявилося, що розвиток нанотехнологій — це куди більш гнучкий і плавний процес».

«Я думаю, що з цієї точки зоруавторів обговорюваної сьогодні можна тільки похвалити. Похвалити за те, що вони висловлюють свої побоювання зовсім не радикальними заявами, а цілком собі спокійними поясненнями», — коментує Кейпер.

Безумовно, дослідники Центру Вісса підняли дуже важливу тему. Рано чи пізно описувані сьогодні технології знайдуть шлях в наше повсякденне життя і будуть служити в якості підтримки не тільки недієздатною, але і цілком здоровим людям.

В перспективі неінвазивні інтерфейси «мозок — комп'ютер» можна використовувати для створення свого роду телекинетической зв'язку з навколишнім світом, у якому ми своїми думками зможемо керувати освітленням в будинку або хоча б просто перемикати телеканали. Іншими словами, подальший прогрес буде здатний перетворити ці технології в технологічний вигляд телепатії. Що ж стосується дослідників з Центру Вісса, то їх ключовий посил полягає в тому, щоб ми були готові до цього і змогли запобігти використання подібних технологій у зловмисних цілях.