Права роботів: коли розумну машину можна вважати «особою»?

У науковій фантастиці люблять зображати роботів у вигляді автономних машин, здатних ухвалювати власні рішення і навіть демонструвати прояви особистості. Тим не менше ми ніяк не позбудемося від думки, що роботи нам належать як власність і що у них немає прав, які зазвичай є у людей. Але якщо машина може думати, приймати рішення й діяти з власної волі, якщо їй можна нашкодити або зобов'язати нести відповідальність за свої дії, ми повинні перестати ставитись до неї як до власності і почати ставитися до неї як до особистості з правами?

А якщо робот раптом стане повністю свідомим? Чи будуть у нього такі ж права, як у нас, і така ж захист закону словом, ну або хоча б щось подібне?

Ці та інші питання вже обговорює Комітет Європарламенту з правових питань. У минулому році він випустив проектний доповідь і пропозицію створити набір цивільно-правових норм для робототехніки, що регулюють її виробництво, застосування, автономію і вплив на суспільство.

Із запропонованих правових рішень найбільш цікавою була пропозиція створити юридичний статус «електронних осіб» для самих складних роботів.

Обережно: особистість

У доповіді визнається, що поліпшення автономних і когнітивних здібностей роботів робить їх більшим, ніж просто інструменти, і звичайних правил відповідальності, начебто договірної та деліктної відповідальності, недостатньо для роботи з ними.

Наприклад, поточна директива ЄС про відповідальність за шкоду, завдану роботами, покриває тільки передбачуваний збиток, заподіяний виробничими дефектами. У цих випадках відповідальність несе виробник. Тим не менш, коли роботи зможуть навчатися й адаптуватися, виходячи зі свого оточення, зовсім непередбаченим чином, виробнику буде складніше передбачити проблеми, які можуть заподіяти шкоду.

Також висловлюється стурбованість тим, як саме потрібно розглядати достатньо чи недостатньо складних роботів: як звичайних людей, юридичні особи (наприклад, корпорації), тварин або об'єкти. Замість того щоб втискати їх в існуючу категорію, пропонується створення нової категорії «електронних осіб» як більш доцільною.

У доповіді не виступають за негайні законодавчі заходи, втім. Замість цього пропонують оновити законодавство, якщо роботи стануть більш складними і обзаведуться поведінковими особливостями. Якщо це станеться, одна з рекомендацій полягає в тому, щоб зменшити відповідальність «творців» пропорційно автономії робота, а також включити обов'язкове страхування.

Але навіщо заходити так далеко, що створювати нову категорію «електронних осіб»? Зрештою, комп'ютери ще не скоро обзаведуться близьким до людського інтелекту, якщо це взагалі станеться.

Роботи — або, якщо точніше, програмне забезпечення в їх основі — стають все складніше і складніше. Автономні (або «емерджентні») машини стають все більш поширеними. Не припиняються суперечки про правові можливості автономних пристроїв. Чи можуть вони проводити хірургічні операції? Можна засудити робота-хірурга?

Робота вчать «відчувати» біль

Поки відповідальність лежить на плечах виробника, це не особливо складні проблеми. Але якщо виробника можна буде з легкістю визначити, наприклад, у разі використання програмного забезпечення з відкритим вихідним кодом? На кого подавати в суд, якщо творців ПО — мільйони по всьому світу?

Штучний інтелект також починає виправдовувати свою назву. Алан Тьюринг, батько сучасної обчислювальної техніки, запропонував тест, пройшовши який комп'ютер міг вважати себе розумним, якщо йому вдасться обдурити, обдурити людину, видати себе за живе істота. Машини вже близькі до того, щоб пройти цей тест.

Список успіхів роботів досить довгий: комп'ютер пише саундтреки до відео, відрізнити від написаних людьми, обходить «капчу», пише прописом і обігрує кращих в світі покеристів.

В кінцевому підсумку роботи можуть зрівнятися з людьми за когнітивним здібностям і навіть бути надмірно людяними, наприклад, якщо буде «відчувати» біль. Якщо цей прогрес буде продовжуватися, самосознательные роботи перестануть бути продуктом фантастики.

Доповідь ЄС один з перших, присвячених цим питань, але інші країни теж беруть активну участь. Юе-Сюань Вен з Пекінського університету пише, що Японія і Південна Корея вважають, що ми будемо співіснувати з роботами до 2030 року. Японське Міністерство економіки, торгівлі і промисловості створило серію посібників, адресованих питань бізнесу та безпеки щодо роботів наступного покоління.

Електронні особи

Якщо ми вирішимо давати роботам правовий статус, яким він буде? Якби вони вели себе як люди, ми могли б ставитися до них як до правових суб'єктів, а не об'єктів, або розмістити їх десь посередині. Суб'єкти мають права та обов'язки, і це дає їм юридичну «особистісність». Вони не зобов'язані бути фізичними особами; корпорація таким не є, але вважається юрособою. Юридичні об'єкти, з іншого боку, не мають прав і обов'язків, хоча можуть мати економічну цінність.

Присудження прав і обов'язків неживого об'єкту або програмі, незалежної від творців, може здатися... дивним. Але ми вже спостерігаємо, як корпорації створюють фіктивніюрособи зі своїми правами та обов'язками.

Можливо, підхід до роботам повинен бути аналогічним? Якщо робот (або програма) досить складний, щоб задовольняти певним вимогам, йому можна дати статус корпорації. Це дозволить йому заробляти гроші, платити податки, мати активи або подавати в суд, незалежно від його творців. Творці робота будуть подібно директорам корпорацій.

Роботи будуть розглядатися в такому випадку як юридичні об'єкти, але на відміну від корпорацій будуть мати фізичні тіла. «Електронне особа», таким чином, може бути поєднанням суб'єкта та об'єкта права.