Неден қорқады, өзі әзірлеуші ӘНЕ кең таратылып,

адам, зерттеулермен айналысатын жасанды интеллект, мен жиі есте сақтау құралы деген оймен көптеген адамдар қорқады, не үшін, ол айналуы мүмкін. Шын мәнінде таңқаларлық емес, егер көру тұрғысынан адамзат тарихындағы, бұл назар аудара отырып, ол пичкает біз ойын-сауық индустриясы, адамдар қорқады болуы мүмкін кибернетического көтеріліс, ол өмір сүруге мәжбүрлейді, біз оқшауланған аумақтарда, ал басқа апат "Матрицеподобный түрі" адам батареяларға.

дегенмен, маған қарап бұл эволюциялық компьютерлік модельдер, олар қолданамын әзірлемелерге АН, қиын туралы ойлауға, бұл менің айтарлықтай, таза ретінде слеза сәби құру экранда менің компьютерден бір рет алады айналуы монстров футуристической антиутопии. Ол мені атауға болады "разрушителем миров", бірде сожалел мен айтқан, өзі туралы Оппенгеймер кейін басқарды құру бойынша бағдарламаны ядролық бомбалар?

Мүмкін еді қабылдады осындай даңқын, ал сыншылар жұмысымның дегенмен еди. Мүмкін, маған шын мәнінде мезгіл тоқтату болдырмау туралы қандай қорқыныш қатысты жасанды интеллект бар менде, сарапшы КТІ?

Қорқыныш алдында непредсказуемостью

Компьютер HAL 9000 айналған арманы-ғылыми фантаста Артур Чарльз кларк мырзадан және өмірде жүзеге асқан кинорежиссером Стэнли Кубриком оның таспада "Космическая одиссея 2001 года" болып табылады тамаша үлгі жүйесін берген апат-күтпеген мән-жайлар.

көптеген күрделі жүйелерде – Титанике, ғарыш шаттле NASA және Чернобыль ядролық электр станциясы – инженерлерге тура келді біріктіруге бір-бірімен көптеген компоненттері. Мүмкін, сәулетшілер, осы жүйелер болды, өте жақсы белгілі, оның әрбір элементін жеке-жеке жұмыс істейді, бірақ олар жеткіліксіз жақсы түсінсе, барлық бұл компоненттер жұмыс істейді.

Нәтижесі болды жүйесі, олар ешқашан соңына дейін емес, түсінікті олардың авторларымен әкеп соқты белгілі салдары. Әрбір жағдайда кеме суға батып кетті, екі шаттла взорвались, ал барлық дерлік Еуропа және Азияның бөлігінің проблемаға радиоактивті ластану – жинағы салыстырмалы түрде аздаған проблемалар, бірақ кездейсоқтық болған бір мезгілде құрдық, апатты әсер.

Менің тамаша аламын елестету, біз жасаушылар АН аламыз келуге ұқсас нәтижелері. Біз аламыз соңғы әзірлемелер мен зерттеулер когнивистике (ғылым туралы ойлау, — авт. ред), аударамыз, оларды компьютерлік алгоритмдер және қосамыз бұл қолданыстағы жүйесі. Біз тырысамыз әзірлеу ІЛІКТІ толық түсіну өз интеллект және сана.

Мұндай жүйелер, Watson IBM немесе Alpha Google білдіреді нейрондық желілер бар озық есептеу мүмкіндіктері мен қабілетті күресу шынымен күрделі міндеттері. Бірақ, әзірше жалғыз, неге әкеледі қате олардың жұмысы, нәтижесі қостанайлық ресей азаматтығын алған "ойынында Jeopardy!" немесе жіберіп алған мүмкіндігі жеңе кезекті ең үздік әлем ойыншысы үстел үсті логикалық ойын.

Бұл салдары емес, ол әлемдік сипаттағы. Шын мәнінде, ең нашар орын алуы мүмкін, адамдар бұл жағдайда, ол біреу проиграет кейбір ақша сомасын көрсетіңіз.

Дегенмен, сәулет АН күрделенуде, ал компьютерлік процестер — барлық жылдам. Мүмкіндігі А, уақыт өте келе тек қана ұлғаятын болады. Ал бұл әкеледі біз сол біз бастаймыз жүктеуге А, көбірек жауапкершілік, тіпті қарамастан өсіп отырған тәуекел күтпеген мән-жайлар.

Біз өте жақсы білеміз, бұл "қате – бұл адам-табиғат", сондықтан біз үшін жай ғана физикалық тұрғыдан мүмкін емес жасау мәнінде қауіпсіз барлық жүйесі.

Қорқыныш алдында дұрыс пайдалана

Мені өте алаңдатады күтпеген салдарын жұмысына ІЛІКТІ, ол разрабатываю пайдалана отырып, тәсіл деп аталатын нейроэволюции. Мен әріптестеріммен виртуалды орта мен заселяю олардың сандық существами бере отырып, оларды "мозгам" командасының шешімі бойынша міндеттерді өсу күрделілігі.

уақыт өте келе, тиімділігі міндеттерді шешу осы существами өседі, дамиды. Кім жеңе міндеттері жақсы, барлық іріктейді үшін репродукциялы жасай отырып, олардың негізінде жаңа ұрпақ. Арқылы көптеген ұрпақ осы сандық жасау дамытады, танымдық қабілеттерін арттыру.

Мысалы, қазір біз алғашқы қадам машиналар деңгейіне дейін орындау қарапайым навигациялық міндеттерді қабылдау қарапайым шешімдер немесе есте сақтау жұп бит ақпарат. Бірақ көп ұзамай жетеміз дамыту машиналар, олар орындауға неғұрлым күрделі міндеттері мен ие болады әлдеқайда тиімді жалпы интеллект деңгейі. Біздің ақтық мақсаты құру болып табылады ақыл-ой, адами.

бұл эволюция тырысамыз табуға және түзетуге барлық қателер мен проблемалар. Әрбір жаңа ұрпақпен машиналар жақсы күресе қателіктермен салыстырғанда алдыңғы. Бұл мүмкіндікті жоғарылатады, онда біз аламыз анықтау барлық болжанбаған салдары симуляциях және " деген сөздер алып тасталсын олардың әлі аз, олар жүзеге асырылуы нақты әлемде.

Тағы бір мүмкіндігі, оны береді эволюциялық даму әдісі болып табылады беру, жасанды интеллект сөйледі. , Бәлкім, осындай этикалық және моральдық ерекшеліктері, адамға сенімділік пен альтруизм, нәтижесі болып табылады біздің эволюцияның факторы және оны жалғастыру.

Біз алдымызға жасанды ортаға берілсін машиналарқабілет, мүмкіндік беретін атындағы көрсетіп, мейірімділік, адалдық және эмпатию. Бұл болуы мүмкін тәсілдерінің бірі екендігіне біз жасап жатырмыз астам послушных малайлар қарағанда, безжалостных робот-өлтіруші. Дегенмен, бұл нейроэволюция қысқартуы мүмкін деңгейі күтпеген салдарын мінез-ИИ, ол мүмкін емес алдын алу дұрыс емес пайдалану жасанды интеллект.

ғалым Ретінде, мен ұстануға тиіс, өзінің міндеттемелері алдында шындық және хабарлау туралы "деп тауып" өз эксперименттер қарамастан туралы қатар, ұнайды маған олардың нәтижелері немесе жоқ. Менің міндет-ғана емес, анықтау үшін, бұл маған ұнайды, ал бұл-жоқ. Ғана аламын жариялауға.

алдындағы Қорқыныш, дұрыс емес әлеуметтік басымдықтары

Мүмкін ғалым – дегенді білдірмейді жоғалтуы адамгершілік. Керек деңгейде қайта обретать байланыс өздерінің гүлдену мен страхами. Бола отырып, моральдық және саяси дәлелденген тұлға, ескеруге тиіс әлеуетті салдары, өз жұмысын және оның ықтимал әсер қоғам.

Ретінде ғалымдар мен қоғам өкілдері, біз әлі күнге дейін келдік айқын идеясы туралы не дәл біз алуға А, және ол болуы тиіс нәтижесінде. Бұл ішінара, әрине, бұл біз әлі күнге дейін соңына дейін түсіне бермейді, оның әлеуеті. Бірақ бізге нақты түсінуге және шешуге, бұл біз алуға шын мәнінде ілгері жасанды интеллект.

ең үлкен салаларының, оған адамдар көңіл аударады әңгіме туралы АН, жұмысқа орналастырылады. Роботтар қазірдің өзінде орындайды біз үшін күрделі физикалық, мысалы, жинау және сваривая өзара бөлігінде автомобиль шанақтарын. Бірақ бір күні, настанет день, когда роботам поручат орындау-танымдық тапсырмаларды, яғни оларға поручат бұрын халқымыз тек қана бірегей қабілеті бар адамның. Самоуправляемые автомобильдер алады деген шофер такси; самоуправляемые ұшақтар болады қажет пилотах.

Орнына медициналық көмек алуға мекендерде шұғыл көмек толтырылған, әрқашан уставшим персоналмен және дәрігерлермен, пациенттер жүргізе алады тексеру және тану диагнозы көмегімен сараптамалық жүйелердің моментальным қолжетімділікпен барлық медициналық білім. Хирургиялық операциялар жүргізілетін болады неподверженными - шаршау роботтар, жеке күтім "наметанной қолмен".

Заңды кеңестер алуға болады бірі-жан-жақты құқықтық база бар. Бақылау кеңестері инвестициялар бойынша боламыз жүгінуге сараптамалық жүйелер нарықтық болжау. Мүмкін бір күні бүкіл адам жұмыс орындалатын болады машиналары. Тіпті менің жұмысқа алуға болады тез пайдаланудың арқасында үлкен санының машиналар, қажымай-талмай зерттейтін, қалай машиналар тағы ақылды.

ақиқатында, біздің қазіргі қоғамның автоматтандыру қазірдің өзінде мәжбүр адамдардың тастап, өз жұмыс орындарын жасай отырып, бай иелерінің осындай автоматтандырылған машиналар тағы бай, ал қалған – тағы да кедей. Бірақ бұл емес, ғылыми проблема. Бұл саяси және социоэкономическая проблема, оны шешуге тиіс, қоғам өзі.

Менің зерттеу осы өзгертпесе, алайда менің саяси ұстанымдары, бірге шығармашылықпен айналысады, мүмкін, әкеледі мән-жайлар, ИИ алады айналуы тек қана пайдалы функцияны орнына жасауға арасындағы алшақтық бір пайызы әлемдік элита және қалған біз кеңірек.

Қорқыныш алдында апаттық сценариймен

Біз подобрались соңғы страху, навязанному бізге безумным HAL 9000, Терминатором және кез келген басқа злодейским сверхинтеллектом. Егер А, дамуын жалғастыру, осы уақытқа дейін әлі превзойдет адами интеллект, болады ма жасанды сверхинтеллектуальная жүйесі (немесе жиынтығы мұндай жүйелердің) қарайтын адам ретінде бесполезного материалдың? Қалай біз аламыз ақтауға өз тірлігін алдында сверхинтеллекта қабілетті істеу және жасауға нәрсе емес, қабілетті бірде-бір адам? Біз жағдайды болдырмау мүмкін стертыми Жер бетінен машиналары, біз олардың бірдей және құруға көмектесті?

Сондықтан, ең маңызды мәселе, мұндай мән-жайлар айтылатын болады мысалы: неге біз еркектер қолдан сверхинтеллекту?

Случись мұндай жағдай еді, бәлкім, деді, менің жақсы адам, ол тіпті үлкен үлес қосты құру осы сверхинтеллекта алдында әкем. Менің воззвал оның бұқаралық шерулер болып жатқанын көрудеміз және сопереживанию үшін сверхинтеллект қалдырды мені осындай сострадающего және сопереживающего, тірі. Менің айтуынша, өзі алуан түрлері бар құндылығы мен Әлем соншалықты үлкен, бұл болуы адами түрі, онда шын мәнінде өте мардымсыз.

Бірақ, мен айта алмаймын, барлық адамзат, сондықтан біз барлық маған қиын болады таба аласыз веский дәлел. Жай кезде мен қараймын біз барлық, мен шынында да көремін, біз көп нәрсе істедік жасаймыз деген дұрыс емес. Әлемде үстемдік өшпенділік бір-біріне. Біз соғыс бір-біріне. Біз әділетсіз распределяем тамақ, білім және медициналық көмек. Біз загрязняем ғаламшарды. Бұл әлемде, әрине, көптеген бар жақсы дүние, бірақ, егер көзқараспен барлық жаман нәрселер, біз сотворили жалғастырамыз жасау, өте қиын таңдау дәлел қолдау біздің одан әрі жұмыс істеуін.

бақытымызға орай, біз әзірше қажеті жоқ дәлелдей өз тірлігін. Бізде әлі уақыт бар. 50-ден 250 жасқа байланысты қаншалықты тез дамиды жасанды интеллект. Біз, түрі ретінде, мүмкіндігіміз бар жиналып, барлық бірге және табу жақсы бар,неге сверхинтеллект тиіс болады өшіру бізді адамдар планетаның.

өте қиын мәселе. Өйткені, айтуға, біз қолдаймыз алуан түрлілігі және этномәдени айырмашылықтар, және бұл – бұл мүлдем әртүрлі заттар. Қалай туралы айту, біз планетаны құтқару, және сәтті осы күресу.

біз Барлық, ол әрбір жеке тұлға немесе тұтас қоғам тиіс дайындалу катастрофическому сценарий пайдалана отырып, онда болуы дайын көрсетуге және дәлелдеуге, неге біздің туындылары мүмкіндік тиіс бізге жалғастыру үстінде. Немесе, біз жай ғана жалғастыру көзсіз сену деген не, оқиғалардың дамуы мүмкін емес, мен жай ғана тоқтатып, сөйлесу, осы тақырыпта.

Алайда, қарамастан қандай физикалық қауіп-қатер төндіруі мүмкін біз үшін сверхинтеллект екендігін ұмытпауымыз керек, бұл қауіпті, ол тағы және саяси, сондай-ақ экономикалық. Егер біз табамыз тәсілін арттыруға біздің өмір сүру деңгейі, онда, сайып келгенде, жай ғана подпитаем капитализм чернорабочим жасанды интеллект, ол қызмет ететін болады ғана горстке сайланған ие, барлық өндіріс құралдарымен.

Түпнұсқасы осы баптың сайтында жарияланды theconversation.com Арендом Хинтзе (Arend Hintze), доценті интегративті биология, компьютерлік ғылым және инженерия Университеті, Мичиган штатының