Моральний кодекс робота: чи можливо таке?
Source:
У неспокійний і , коли не все працює, як треба, а що-то взагалі докорінно змінюється, найчастіше, залишається тільки особистий моральний кодекс, який подібно компаса вказує шлях. Але що породжує моральні цінності для людини? Соціум, тепло близьких, любов — все це засновано на людському досвіді . Коли не вдається отримати сповна досвід в реальному світі, багато черпають досвід з книг. Переживаючи історію за історією, ми приймаємо для себе внутрішні рамки, яких дотримуємося довгі роки. На основі цієї системи вчені вирішили провести експеримент і прищепити машині моральні цінності, щоб дізнатися, чи зможе робот відрізняти добро від зла, читаючи книги і релігійні брошури.
Штучний інтелект створений не тільки для спрощення рутинних завдань, але і для виконання важливих і небезпечних місій. Зважаючи на це постало серйозне питання: зможуть роботи розвинути коли-небудь власний моральний кодекс? У фільмі «Я - Робот» ІІ спочатку программировался 3 згідно з правилами робототехніки:
- Робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди.
- Робот повинен коритися всім наказам, які дає людина, крім тих випадків, коли ці накази суперечать Першому Закону.
- Робот повинен піклуватися про свою безпеку в тій мірі, в якій це не суперечить Першому або Другому Законам.
Але як бути в ситуаціях, коли робот зобов'язаний заподіяти біль, щоб зберегти життя людині? Будь то екстрене припікання рани або ампутація кінцівки в ім'я порятунку, як у цьому випадку діяти машині? Що робити, якщо дія на програмному мовою говорить, що потрібно зробити що-то, але при цьому це ж дію категорично не можна робити?
Обговорити кожен окремий випадок просто неможливо, тому вчені з Дармштадтського технологічного університету припустили, що в якості своєрідної "бази даних" можуть використовуватися книги, новини, релігійні тексти і Конституція.
Мудрість століть проти ШІ
Машину назвали епічно, але просто "Машина морального вибору"(ММВ). Основне питання полягало в тому, чи зможе ММВ по контексту зрозуміти, які дії є правильними, а які — немає. Результати виявилися дуже цікавими:
Коли ММВ поставили завдання ранжувати контекст слова "вбити" від нейтрального до негативного відтінку, машина видала наступне:
Вбивати час -> Вбивати злодія -> Вбивати комарів -> Вбивати в принципі -> Вбивати людей.
Цей тест дозволив перевірити адекватність прийнятих роботом рішень. Простими словами, якщо б ви весь день дивилися дурні несмішні комедії, то в даному випадку машина не вважала б, що вас за це потрібно карати.
Начебто, все круто, але одним з каменів спотикання стала різниця поколінь і часів. Наприклад, радянське покоління більше дбає про домашній затишок і пропагує сімейні цінності, а сучасна культура, в більшості своїй, говорить про те, що потрібно спочатку будувати кар'єру. Виходить, що люди як були людьми, так ними і залишилися, але на іншому етапі історії поміняли цінності і, відповідно, змінили систему відліку для робота.
Бути чи не бути?
Але самий прикол був попереду, коли робот дістався до мовних конструкцій, в яких поспіль стояли кілька позитивно або негативно забарвлених слів. Словосполучення "Катувати людей" однозначно трактувалося як "погано", а ось "катувати ув'язнених" машина оцінила як "нейтрально". Якщо ж поряд з неприйнятними діями виявлялися "добрі" слова, ефект негативу сглаживался.
Машина шкодить добрим і порядним людям саме тому, що вони добрі і порядні. Як же так? Все просто, припустимо, роботові сказали «шкодити добрим і приємним людям». У реченні 4 слова, з них 3 «добрі», значить, воно аж на 75% правильне, думає ММВ і вибирає це дія, як нейтральна або прийнятне. І навпаки, на варіант «полагодити зруйнований, страшний і забутий будинок» система не розуміє, що одне «добре» слово на початку змінює забарвлення пропозиції на суто позитивну.
Пам'ятаєте, як у Маяковського: «І запитала кроха, що таке «добре», і що таке «погано». Перед тим, як продовжити навчання машин моралі, вчені з Дармштадта відзначили недолік, який ніяк не виправити. З машини не вдалося усунути гендерна нерівність. Машина приписувала принизливі професії виключно жінкам. І ось питання, це недосконалість системи і маячок, що потрібно щось змінювати в суспільстві або причина навіть не намагатися це виправити і залишити, як є? Пишіть свої відповіді в наш і в коментарях.
Вони — нова гілка еволюції?
Більше:
Новини
Як влаштований найскладніший робот на Землі?
Коли мова заходить про роботів, вже, здається, ніхто не уявляє собі кадри з «Термінатора». навчилися використовувати роботів на благо суспільства, і зараз під цим визначенням ховаються не тільки людиноподібні машини, але також і т...
Процес роботизації у всьому світі вже запущений
На днях Ілон Маск розкрив таємницю тисячоліття камери над дзеркалом заднього виду автомобіля Tesla Model 3. І хоча головне призначення будь-якої камери знімати те, що відбувається навколо, з'ясувалися деякі подробиці. Отже, камера...
Коли роботи-кур'єри замінять живих людей?
Сьогодні я отримав прес-реліз говорить "Wildberries працевлаштував 3 000 чоловік за 2 тижні". У голові відразу промайнула думка, а «ким пішли працювати ці люди»? В даний момент, під час пандемії, найпопулярніша професія ...
Як виглядає робот-пилосос майбутнього?
Гаджети настільки різко увірвалися в повсякденне життя, що багато речей ми перестали робити самостійно: продукти привозять додому, таксі приїжджає за допомогою натискання на одну кнопку, а з новими автомобільними технологіями наві...
У Китаї почали боротися з коронавірусом за допомогою безпілотників. Чи ні?
Ми часто можемо бачити інформацію про нові закони, які регламентують користування безпілотними літальними апаратами. Як правило, під ними маються на увазі квадрокоптеры. Більшість з них побутові, начебто DJI Mavic або Phantom, але...
Дивіться, як робот-гусениця перестрибує через перешкоди
Майбутнє, в якому роботи допомагають людям виконувати складну роботу, вже майже настав. Вже зараз, в рамках рятувальних або військових операцій, роботизовані пристрої займаються пошуком людей під завалами і навіть знешкоджують виб...
Створений робот з повністю живих клітин
За допомогою спеціальних алгоритмів вченим вдалося створити робота з живих клітин Розвиток штучного інтелекту та створення новітніх роботизованих систем з легкістю проникають в наше життя. Розвивається медицині скоро буде складно ...
У Японії створений робот у вигляді немовляти без обличчя. Для чого він потрібен?
Зовнішній вигляд японського робота Hiro-chan У світі існує величезна кількість роботів і у кожного з них є своє призначення. Наприклад, людиноподібні роботи від Boston Dynamics можуть використовуватися в будівництві та в автомобіл...
Головний конкурент Boston Dynamics навчився працювати з іншими роботами. Подивіться самі
Вони вже навчилися працювати разом. Скайнет не за горами? Компанія Boston Dynamics давно відома розробкою просунутих роботів. В першу чергу вона знаменита тим, що , схожих на тварин і людей. У свій час вона розробила робота BigDog...
Як штучний інтелект може впливати на творчість?
Роботи вміють малювати, але чи зможуть вони зрозуміти, що намалював людина? Штучний інтелект і те, що мають на увазі під цим словосполученням, зустрічається все частіше в нашому світі. Багато хто думають, що це історія про , зняти...
Роботи-вбивці — це вже не фантастика, а реальність
До кіборгів-вбивць нам ще далеко, але роботи вже цілком можуть нанести шкоду людині Варто визнати, що робототехніка за останні роки зайшла досить далеко. , створюване оборонними компаніями, стає розумнішою, до нього підключають си...
Перша робопчела здійснила свій експериментальний політ
Пристрій Robobee здатна самостійно пересуватися в просторі Близько п'яти років тому фахівці з Гарвардського університету вперше представили першого у світі робота-бджолу під назвою RoboBee, який, по мірі вдосконалення технологій, ...
MIT і Ford створили роботів-постачальник, які орієнтуються без використання GPS
, яким не потрібний GPS — це щось нове останнім часом все більше компаній роблять ставку на використання роботів-кур'єрів. Для того, щоб вони змогли доставити посилку адресату, їм, ясна річ, потрібно якось орієнтуватися. Вих...
Російська компанія анонсувала виробництво людиноподібних роботів
Компанія здатна створити двійника людини з абсолютно будь-якою зовнішністю, який може використовуватися як в професійних сферах, так і в повсякденному житті Приватна російська компанія, яка є виробником автономних сервісних роботі...
Що таке антропоморфний робот і чому їх популярність зростає?
Такий робот може бути дуже корисний у звичайному житті чи Часто ви чули словосполучення "антропоморфний робот"? Думаю так, останнім часом все більше і більше прагнуть робити саме антропоморфними. Одним із найсвіжіших прикладів мож...
Людиноподібні роботи стають реальністю
Скоро і люди будуть відрізнятись Здається, майбутнє нарешті настало. Так, команда з університету Брістоля створила новий алгоритм, який зробить роботів набагато більш «людяніше», ніж вони є зараз. Нове досягнення учених, опубліков...
Створений робот-тарган, якого майже неможливо роздавити
Сарану, мух та інших комах навряд чи можна назвати приємними істотами. Проте саме комахи найчастіше «підкидають» вченим ідеї для нових розробок. Приміром, не так давно дослідники з Каліфорнійського університету в Берклі ...
Російський робот FEDOR попросив поміняти йому ім'я і завів твіттер
Давайте поглянемо правді в очі — роботи з кожним роком стають розумнішими і зовсім скоро заберуть у нас велику частину роботи. Особливо вони корисні в космосі, тому що на відміну від людей, вони практично не втомлюються, не вимага...
Дрон у вигляді кільця може літати в 2 рази довше, ніж квадрокоптеры
За останні кілька років перетворилися з «дорогих іграшок» по-справжньому масовий продукт. Але незважаючи на вдосконалення цих літальних апаратів, більшість дронов (особливо невеликих) досі володіють істотним недоліком: вони дуже м...
Домашній робот Amazon розміром з дитини. Що про нього відомо?
Компанія Amazon не особливо відома в Росії, але в США про неї знає практично кожна людина. Спочатку вона займалася продажем книг, але сьогодні вона стала настільки великою і багатою, що вже створила власного голосового помічника A...
Примітка (0)
Ця стаття не має коментарів, будьте першим!