Загадковий «рада з етики» DeepMind візьме під контроль загальний ШІ, якщо той з'явиться
Source:
Рада з етики був ретельно охороняється секретом з тих пір, як Google придбала цю компанію з розробки штучного інтелекту в 2014 році. Однак новий репортаж Хала Ходсона з The Economist проливає світло на те, як з'явився рада з етики і для чого він потрібен. Він пише, що DeepMind і Google підписали «Угоду про перевірку етики та безпеки», складений юристами в Лондоні за рік до покупки компанії.
Чим займається рада з етики DeepMind
У цій угоді йдеться, що якщо DeepMind коли-небудь досягне успіху в своїй основній задачі побудови загального штучного інтелекту (AGI) — під яким іноді розуміють машину, здатну успішно виконати будь-яку інтелектуальну задачу, яку може виконати людина — контроль над цією машиною буде належати тим, хто входить до складу керівної ради — Ради з етики.
Рада з етики, по суті, дозволяє DeepMind юридично підтримувати певний рівень контролю над технологіями, які він створює, незалежно від того, наскільки цінними чи небезпечними вони стають.
Варто також відзначити, що машина з загальний штучним інтелектом може і не захотіти слухати тих, хто її «контролює».
Незважаючи на неодноразові запити, DeepMind так і не розкрив, хто входить в Раду з етики, однак The Economist називає всіх трьох засновників DeepMind (Деміс Хассабис, Мустафа Сулейман і Шейн Легг).
У грудні 2016 року Сулейман заявив на конференції TechCrunch, що «рада з етики працює і йому доводиться спостерігати за рядом наших ініціатив зсередини». І додав: «Ми завжди говорили, що він буде в значній мірі зосереджений на повноцінних навчаються системах загального призначення, і я думаю, що це дуже і дуже далека перспектива. Ми на відстані десятків років від тих ризиків, які спочатку передбачав рада. Ми впроваджуємо безліч механізмів на місці, які зосереджені на найближчі наслідки».
За рік до цього на конференції, що відбулася в лондонському офісі Bloomberg в 2015 році, Сулейман сказав: «Ми оприлюднимо імена, але це ще не все. Це один з компонентів всього апарату».
DeepMind часто називають одним з лідерів перегонів ІІ, разом із Facebook, Microsoft, OpenAI, Baidu і декількома іншими компаніями.
Але поки що системи штучного інтелекту здатні перемагати людей лише в деяких іграх, а також виконувати інші нішеві завдання в певних областях. Назвати їх всемогутніми і всесильними не можна, і пройде ще багато років, перш ніж ситуація зміниться.
DeepMind на коментарі не відповіла. А що думаєте ви? Розкажіть .
Більше:
Венера має газ, вироблений мікробами. Вчені знайшли іноземців?
Був припущення, що може бути життя на Венери Протягом багатьох років вчені шукають життя на Марсі. Але хто знає, може вони там не дивляться? У 2017 році дослідники з США та Великобританії почали шукати ознаки життя на Венері, яка є другою за величино...
Чи може мелатонін допомогти лікувати коронавірус?
Деякі лікарі вважають, що гормон сну допомагає при коронавірусі Схоже, що в переліку потенційних методів лікування COVID-19, які дослідники запропонували протягом декількох місяців пандемії, ще одне поповнення: мелатонін. Лікар в Техасі каже, що він ...
Що таке "гормон любові" і хто його не вистачає?
Окситоцин - гормон любові Людське тіло виробляє величезну різноманітність гормонів, кожен з яких виконує своє завдання. Наприклад, багато відомих ендорфінів приносять людям відчуття радості, а надлишок кортизолу сигналізує про стресовий стан людини. ...
Новини
Вчені показали, як людина розпізнає різні смаки їжі
щодня ми споживаємо в їжу різну їжу — солодку, гірку, солону. Звичайно, в першу чергу за визначення смаків відповідають рецептори на цибулинах мови, але в будь-якому випадку отримана інформація все одно обробляється на рівні...
Клітини користуються «рогатками» для власного прискорення
Ми навіть не усвідомлюємо, що навіть у нерухомому стані наших тіл багато клітини постійно перебувають у русі. Існує багато типів міграції клітин, але дослідники Мічиганського університету виявили ще один, досить дивний і сильно ві...
Вчені закликали до світової заборони використання технології генного редагування CRISPR
У минулому році китайський генетик Хе Цзянькуй, незважаючи на заборону, що діють на території Піднебесної, провів вкрай сумнівний з точки зору моралі та етики за генним редагування ембріональних клітин людини, внаслідок чого на св...
Російські вчені змогли повернути час назад
Вчені з Московського фізико-технічного інституту, разом з колегами із США та Швейцарії провели , в яких успішно змусили квантовий комп'ютер повернутися в стан минулого. Короткі висновки дослідження, в яких описується можливість пр...
Квантовий експеримент показав, що об'єктивної реальності не існує
Ще в 1961 році фізик і нобелівський лауреат Юджин Вігнер виклав уявний експеримент, який продемонстрував один з найменш відомих парадоксів квантової механіки. Експеримент показує, як дивна природа всесвіту дозволяє двом спостеріга...
Шкіра здатна розповісти про вашу схильність до депресії
Стрес і депресія можуть призвести до досить серйозних наслідків, проте визначити, хто схильний до розвитку таких станів дуже складно. Дослідники з австралійського університету міста Ньюкасл впевнені, що про схильності з високою то...
NASA вивчить незаймані зразки місячного грунту, зібрані в рамках останніх місій «Аполлон»
Минуло вже майже півстоліття з моменту останньої висадки людини на поверхню Місяця у рамках програми «», проте велика частина зразків місячного ґрунту, зібраних в ході цієї місії, весь цей час перебували в первісному стані. Зараз ...
Вибуховий випробування ESA зменшить кількість космічного сміття
Космічний сміття вже вважається величезною проблемою, яка заважає людству проводити випробування на навколоземній орбіті. Причиною виникнення величезної кількості сміття є батареї, які використовуються в супутниках і можуть вибухн...
Вчені відновили активність клітин стародавнього мамонта
У 2010 році на узбережжі протоки Дмитра Лаптєва на Далекому Сході Росії було знайдено добре збережене тіло мамонта по імені «Юкі». За розрахунками вчених, він загинув близько 28 000 років тому, і до сьогоднішніх часів його тіло зб...
Сонячна геоинженерия — не така вже й погана ідея для боротьби з глобальним потеплінням
Якщо людство хоче повністю уникнути найжахливіших наслідків глобальних кліматичних змін, то нам необхідно припинити використовувати викопні види палива і перейти до більш екологічно чистим альтернативних джерел енергії. Прогрес у ...
Електрична синхронізація областей головного мозку здатна вилікувати депресію
Стимуляція мозку електричними імпульсами активно застосовується для лікування різних психічних захворювань. Найчастіше для цього потрібна хірургічна імплантація електродів, але метод, який називається транскраніальної стимуляцією ...
Білий дім запросив у Конгресу США для NASA 21 мільярд доларів. Куди їх збираються витратити?
Адміністрація США запросила у Конгресу США 21 мільярд доларів на фінансування Національного управління по аеронавтиці і дослідженню космічного простору (NASA) у 2020 фінансовому році, який почнеться 1 жовтня. Про це йдеться в опуб...
Австралійські нейробіологи змогли передбачити вибір людей за 11 секунд до прийняття ними рішень
Свобода волі, тобто можливість людини робити усвідомлений вибір, незалежно від обставин, з точки зору нейробіології може виглядати цілком передбачуваною. У новому дослідженні, стаття про якого була в журналі Scientific Reports, гр...
Algolux представила Ion: платформу для розробки автономних систем спостереження
Algolux, заснована в 2015 році, поки не особливо відома в переповненій області автомобільного комп'ютерного зору. Однак цей стартап з Квебека привернув увагу інвесторів. Наприклад, в минулому травні компанія залучила 13,4 мільйона...
Вчені створили молекули, що нейтралізують вірус грипу
За Всесвітньої організації охорони здоров'я щорічно у світі відзначається від 3 до 5 мільйонів випадків захворювань різними типами вірусу грипу, при цьому до 650 000 випадків виявляються смертельними. На жаль, навіть в сучасному с...
NASA просить допомоги у інтернет-спільноти у проведенні місії OSIRIS-REx
Вчені з аерокосмічного агентства NASA вирішили звернутися до космічних ентузіастам з проханням про допомогу в складанні детальної карти поверхні астероїда Бенну. Фахівці агентства хочуть, щоб користувачі інтернету допомогли їм від...
Вчені з ЄКА більш точно розрахували масу Чумацького Шляху
Астрономи Європейського космічного агентства (ЄКА) змогли більш точно розрахувати приблизну масу нашої Чумацький Шлях. Виявилося, що вона в два рази більше, ніж передбачали результати попередніх досліджень. Наскільки? Практично вд...
Вчені з'ясували, з чого складаються і для чого потрібні зелені айсберги
Більшість айсбергів пофарбовані в білий або синій колір, але на початку XX століття моряки відкрили ще один різновид крижаних брил — вони мають зелений відтінок. Їх незвичайний вигляд довгий час спантеличував вчених, так як вони н...
#відео | Як виглядали тираннозаври, якщо вони дійсно були покриті пір'ям?
Багато людей з дитинства вважають, що практично всі динозаври були покриті лускою. Це припущення входить в десятку про древніх гігантів, тому що палеонтологи вже давно знайшли свідчення того, більшість з них було пернатими істотам...
Марк Цукерберг хоче створити пристрій для читання думок у Facebook
Для тих, хто серйозно стурбований тим, що Facebook занадто глибоко проникає у життя людей, останні коментарі Марка Цукерберга, зроблені в Гарварді, повинні стати тривожним дзвіночком. Під час майже двогодинного інтерв'ю з професор...
Примітка (0)
Ця стаття не має коментарів, будьте першим!