Қауіпті адамгершілік: не үшін бізге қисынды жасанды интеллект?

Кезде Норберт Винер, әкесі кибернетика, өз кітабын жазған "Адамдық пайдалану адами тіршіліктің" 1950 жылы, вакуумды түтіктер әлі де болды негізгі электрондық құрылыс блоктары мен жұмыс фактісі бойынша, барлығы бірнеше компьютерлер. Алайда ол вообразил болашақ ол біз қазір байқап отырмыз, бұрын-соңды болмаған дәлдікпен, ошибившись ғана елеусіз мелочах.

ең Алдымен кез келген басқа философ, жасанды интеллект, ол түсіндім, бұл АН емес, жай ғана еліктеуге болады және мыналармен алмастырылады — адам существам көптеген түрлері зияткерлік қызмет, бірақ және өзгертеді, адамдар бұл процесте. "Біз тек қана қайталайды өзенінде мәңгі ағымдағы су", деп жазды ол. "Біз нәрсе емес, ол жай ғана өмір сүреді, біз моделін, увековечивают.

Мысалы, қашан пайда болып, көптеген заманчивых мүмкіндіктерін, біз төлеуге дайын және қабылдауға аз шығындар, бизнесті жүргізу кіру үшін жаңа мүмкіндіктер. Және өте көп ұзамай біз өзіміз үйренеміз тәуелді жаңа құралдарды жоғалтады қабілеті болды. Опциялар міндетті болады.

Бұл өте ескі тарихы, эволюциясы, және көптеген басшылары одан да бізге жақсы мәлім. Көптеген сүтқоректілер мүмкін синтездеу өз витамин C, бірақ приматтар қоректенетін көбінесе жемістермен, жоғалтып бұл встроенную мүмкіндігі. Самоповторяющиеся үлгілер, біз деп атаймыз адамдармен, енді тәуелді төсемелерін, өңделген азық-түлік, витаминдер, шприцтерді, кредиттік карталар, смартфондар және интернет. Ертең, жоқ бүгін, — жасанды интеллект.

Винер предвидел бірнеше проблемаларды осы ережеге сәйкес жүзеге асырады нәрселер және басқа да ерте оптимист А, айтарлықтай қателіктерге бой алдырып жаттық келген түрі. Нақты қаупі, оның айтуынша, модернге:

… " деп, мұндай машиналар, дегенмен беспомощные өздері пайдаланылуы мүмкін адам немесе оқшаулауға адами тіршіліктің ұлғайту үшін оларды бақылауды қалған бөлігі нәсіліне, не саяси лидерлер көріңіз бақылауға өз халқы пайдалана отырып, емес, өздері машиналар, саяси әдістері, столье сол тар және безразличные адамға, егер олар придуманы механикалық.

Әлбетте, бұл қауіп қазір өте өзекті болып табылады.

БАҚ-та, мысалы, инновациялар сандық аудио және видео мүмкіндік береді төлеуге шағын бағасын (алдында аудиофилов және кино әуесқойлары) бас тартқаны үшін аналогтық форматтағы, ал орнына алуға өте қарапайым — тым қарапайым тәсілі ойнату дерлік шектеусіз.

Бірақ бар үлкен жасырын бағасы. Министрлігі правда Оруэлла болды нақты мүмкіндігі бар. Әдістері АН құру бойынша іс жүзінде неотличимых жалған "жазба" жасайды ескірген құрал-саймандар, біз пайдаланған үшін тергеу соңғы 150 жыл.

Бізге қалады, жай ғана бас тартуға қысқаша дәуірінің фотографиялық дәлелдемелер мен қайтып сол бұрынғы әлем жады адам және сенім болды алтын стандарт. Немесе біз жаңа әдістерін әзірлеу қорғау және шабуыл үшін шайқаста шындықты. Бірі волнительных мысалдар соңғы уақыт болды бұл жоюға беделіне қарағанда әлдеқайда арзан да осы беделді атақты және қорғау. Винер көрдім бұл құбылыс өте кең таралған: "ұзақ мерзімді болашақта емес, арасындағы айырмашылық қару-жарақпен, өзіне қару-жарақ және жау". Дәуірі ақпарат болды, сондай-ақ дәуірі жалған ақпарат.

біз Не істей аламыз? Кілт сол бақылау Винера "бұл машиналар" "көмексіз өздері". Біз, міне, құралдары, әріптестері және нақты қаупі мынада: біз айырма.

Жасанды интеллект өзінің қазіргі көріністері паразитирует " адами интеллекте. Ол өте бесцеремонно меңгеріп алады, бұл барлық құрдық адамдар-шебер, мен алады паттерны қоса алғанда, біздің ең жасырын әдеттер. Бұл машина әлі жоқ мақсаттар немесе стратегиялары, қабілетті емес - самокритике және инновациялар, олар тек үйренуде біздің деректер базасын ие емес, жеке ойлар мен мақсаттар.

Олар, - дейді Винер, көмексіз емес мағынада, олар закованы тізбегінде немесе обездвижены, жоқ, олар мүлдем болып табылады агенттер — мүмкіндіктері жоқ "әрекет ететін себептерге", выразился еді Кант.

ұзақ мерзімді перспективада "қатты ІЛІКТІ", немесе жалпы жасанды интеллект, болуы мүмкін негізінде, бірақ нежелателен. Одан да шектеулі ІЛІКТІ, ол болуы мүмкін іс жүзінде бүгін, емес, зұлымдық. Бірақ ол қауіп — ішінара, өйткені оны қате қабылдау үшін қатты ІЛІКТІ.

Қаншалықты мықты жасанды интеллект.

арасындағы Алшақтық сегодняшними жүйелерімен және ғылыми-фантастическими жүйелерімен, наводняющими танымал қиял, әлі де орасан зор, дегенмен көптеген адамдар, әуесқойлар да, кәсіпқойлар да бейім, оны жете бағаламау. Қарастырайық Watson IBM, ол әбден болуы мүмкін лайықты құрмет біздің уақытта.

Бұл суперкомпьютер нәтижесі болды өте ауқымды процестің R&D (зерттеу және әзірлеу), онда іске қосу көптеген адамдар жетілдіріп, дизайн ақыл-ой көптеген ғасырлар, және ол мың есе көп энергия қарағанда, адамның миы. Оның жеңісі Jeopardy! болды шынайы беларусь, ол арқасында мүмкін болды формульным шектеулерге ережесін Jeopardy!, бірақ ол қатыса, тіпті осы ережелерді қайта қарауға тура келді. Тура келді сәл бас тартуға жан-жақты және қосу адамгершілікке, шыға шоу.

Watson — жаман компания, қарамастан вводящую адастырып жарнамаға IBM, ол уәде ауызекі тіл қабілетін персоналының обем деңгейде, ал айналдыру Watson в правдоподобного көпқырлы агентінің еді театрдыңайналдыру калькулятор " Watson. Watson жақсы болуы мүмкін есептеуіш қабымен үшін мұндай агенттің, бірақ тезірек мозжечком немесе миндалиной емес, ақылына — жақсы жағдайда, плей-офф жүйесімен, рөлін орындайтын қолдау, бірақ жақын емес жүйемен жоспарлау және қалыптастыру мақсаттарына байланысты алынған сөйлеу тәжірибесі.

Иә, не болар еді бізге осыған құру мыслящего және шығармашылық агенттің бірі-Watson? Мүмкін, тамаша идея Тьюринг — атақты тест Тьюринг — заманила бізді тор: біз олардың сұлулық кедергі жатыр құрумен болмағанда иллюзия нақты адам, экран алдында отырған айналып өтіп, "зловещую алқабына".

Қауіп деп болғанша, Тьюринг ұсынды міндет — ол, ең алдымен, міндеті алдауға судьялар жасаушылар АН тырысты орындауға және оның көмегімен күлкілі гуманоидных қуыршақ, "мультфильм" нұсқалары, очаруют және обезоружат пұттарды талқандағаны. ELIZA Джозеф Вейзенбаума, ең бірінші чатбот, жарқын үлгісі құру мұндай иллюзия, бұл өте қарапайым алгоритмге, ол еді сендіру адамдар, олар жүргізеді жан тебірентер және шынайы әңгіме басқа адамдармен.

Оның обеспокоила жеңілдігі, адамдар дайын сену. Егер біз деп түсініп, бірі-жыл сайынғы жарыстардың өту шектелген тест Тьюринг үшін сыйлық Лебнера, бұл тіпті ең ақылды адамдар, олар сведущи компьютерлік бағдарламалау, оңай жүргізілуде, бұл қарапайым амалдар.

адамдардың қарым-Қатынасы саласындағы А, мұндай әдістері әркелкі жылғы сотталғанға дейін көтермелеу және консенсус болып табылады, оның ішінде бұл әрекеттерді аса қызметіндегі, бірақ пайдалы болуы мүмкін. Жылжуымен қатысты, ол өте айтпақшы, шынайы екенін мойындау разукрашенные " қуыршақ андроиды — бұл жалған жарнама, ол тұр айыптай емес, көтермелеу.

бұған Қалай қол жеткізуге болады? Біз қозғалтқыш жұмыстарды түсіну, адамдар бастайды, шешім қабылдауға, өмір мен өлім сүйене отырып, "кеңеске" ИИ жүйелерін, ішкі операциялары, олардың іс жүзінде непостижимы, көреміз үшін жақсы себеп, кім шақырады, адамдарды сенім артуға мұндай жүйелерге, бастауға сүйенуге және мораль нормалары.

жасанды интеллект Жүйесі — өте қуатты құрал. Соншалықты мықты, тіпті сарапшылар бар жақсы себеп емес, сенім артуға өз суждениям, "пайымдау", ұсынылған осы аспаптармен. Бірақ егер бұл пайдаланушылар құралдарының жиналады пайдасын, қаржылық немесе басқа да, көпшілікке осы құралдардың, олар көз жеткізу керек, ол біледі, бұл барлық үлесі, жауапкершілікті барынша бақылауға және негіздемесі.

Лицензиялау және мақұлдау іс-қимыл операторлары мұндай жүйелер — дәл біз сияқты лицензируем фармацевтер, оператор крандарын және басқа да мамандар, қателіктер және қате пайымдаулар олар болуы мүмкін ауыр салдары болуы мүмкін қолдауымен, сақтандыру компанияларының және басқа да ұйымдардың, міндеттеу құрушылардың ИИ жүйелерін баруға ұзын жолымен, выискивая әлсіз және кемшіліктерді өз өнімдерін, сондай-ақ оқытуға кім жиналады олармен жұмыс істей алады.

Болады елестету өзіндік кері тест Тьюринг, онда мәні бағалау судья; ол табады әлсіздік, бұзылуы шекараларын кемшіліктер жүйесі, лицензия, ол алады. Сертификат алу үшін осындай судьяға талап етіледі елеулі оқыту. Ұмтылу приписывать объектісі адамның ойлау қабілеті, біз, әдетте, жасаймыз, кездесе отырып, ақылға қонымды агент, өте, өте күшті.

шын мәнінде, қабілеті қарсы тұру тілегі көруге нәрсе очеловеченном адам — оғаш дана. Көптеген адамдар тапқан еді өсіруге осындай талантының күмәнді, өйткені тіпті ең прагматичные жүйесін пайдаланушылар мезгіл-мезгіл жатады өзінің құралдары "дружелюбно".

Қарамастан, қаншалықты мұқият дизайнерлер мен жасанды интеллект болады болдырмауы тиіс жалған "адам" ноталар өз бұйымдарында, біз күтуге тиіс гүлдену жапсырмаларды, айналма жолдарды және рұқсат етілген бұрмалаулардың нақты "түсіну" ретінде жүйелер, сондай-ақ олардың операторларына. Дәл осы секілді, теледидардан жарнамалауда дәрі ұзын тізімін жанама әсерлер немесе алкоголь, снабжая ролик молшылығымен ұсақ қаріп, барлық заңда көзделген, ескертулермен, сонымен қатар, әзірлеушілер жасанды интеллект орындауға болады заң, бірақ изощряться ескертулерде.

бізге жасанды интеллект?

Бізге қажет емес жасанды саналы агенттер. Бар салмағы табиғи саналы агенттер, олардың жеткілікті кез-келген тапсырманы орындауға арналған, мамандардың және артықшылықты. Бізге ақылды құралдары. Құрал-саймандар құқықтары жоқ және болуы тиіс сезім, болады задеть немесе олар болады "злоупотребить".

себептерінің бірі ғана емес, жасанды саналы агенттер мынада: ол болуы мүмкін автономды (және негізінен олар осындай дербес самоулучшающимися немесе самосозидательными, кез-келген адам), оларға жөн — арнайы рұқсатынсыз — бөлуге біздің табиғи сознательными агенттері біздің осалдық немесе біздің өлім.

Дэниел Деннетт, профессор, философия Университетінің Тафтса, бір күні алдына студенттер тапсырманы семинарда бойынша жасанды агенттер мен автономия: дайте мне техникалық сипаттамалары робот алады, келісім-шарт сізбен — суррогата білетін басқа адамға, өзінің-өзіне. Бұл мәселені түсіну себептері немесе манипуляция қаламмен қағазға, дәлірек айтқанда, иелену және еңбек сіңірген иелену құқықтық мәртебесі және адамгершілікжауапкершілігі. Кішкентай балалар қол қоя алады және осындай келісім-шарттардың, сол сияқты мүгедектер, құқықтық олардың мәртебесі міндеттейді болуға қорғаншылықтағы және жүктейді жауапкершілік қамқоршылар.

Проблема роботтар алатын деңгейіндегі болмай возвышенный мәртебесін, - деп, Супермен, олар тым осал жасауға мұндай өтініш. Егер олар бас тартады, не болады? Қандай жаза бұзғаны үшін уәде? Олардың жабылады торда немесе таратылымын. Түрме үшін жасанды интеллект емес құрайды қиын, егер біз тек әуелі жоқ загрузим деген бас бостандығынан ол алмаса керек проигнорирована немесе ажыратылған өзі ІЛІКТІ. Бөлшектеу АН емес өлтіреді ақпарат сақталады, оның дискіде және бағдарламалық қамтамасыз ету.

Қарапайымдылығы сандық жазу және деректерді беру — серпін мүмкіндік беретін бағдарламалық қамтамасыз ету және деректер алуға, шын мәнінде, қоғам — роботтар жасайды неуязвимыми. Бұл, меніңше, айқын, туралы ойланып көрші қалай өзгерді еді адамгершілік адамдарды, егер біз істеу "бэкапы" адамдар әр апта сайын. Секіру көпірден без резинки кейін жексенбі пятничного бэкапа мүмкін опрометчивым шешімімен, содан кейін көруге болады жазба, өзінің мезгілсіз қайтыс кешіктірмей.

сондықтан, біз жасаймыз емес, саналы — ұнайды құруға — гуманоидных агенттер, дәлірек айтқанда, мүлдем жаңа түрі тіршіліктің, әлдебір оракулов, ессіз, қорқыныш өлім бұрмай, махаббат пен өшпенділік, жеке тұлғаның: айналар шындық, олар дерлік болады жұқтырған адам ескерту мәселелері талқылады.

Адами пайдалану адами тіршіліктің көп ұзамай өзгереді — тағы — мәңгі, бірақ егер біз алайық өзіне жауапкершілік біздің траекториясын эволюциясы, біз аламыз болдырмау қажетсіз қауіп.

келісесіз бе? Қандай туралы өз пікірін .