Жасанды интеллект емес, осындай ақылды, қандай сіз және Илон Концентра оның ойлайсыз

наурыз 2016 жылғы компьютерлік алгоритмі AlphaGo компанияның DeepMind шанхайда жеңгені Ме Седолем, сол кезде әлемдегі ең үздік ойыншы күрделі логикалық. Бұл оқиға сол айқындайтын сәттердің тарих технологиялық индустрия, коими өз кезінде болат пен жеңіс компьютер Deep Blue IBM компаниясының үстінен шахмат бойынша әлем чемпионы Гарри Каспаровым, жеңіс суперкомпьютера Watson сол IBM викторинаға үшін эрудиттер Jeopardy 2011 жылы.

Дегенмен, бұл жеңіс, қандай әсерлі болды олар, ең алдымен, мұндай дәрежеде туралы жаттығу алгоритмдер және пайдалану өрескел есептеу қуатына қарағанда, нақты жасанды интеллекте. Бұрынғы профессор робототехника Массачусетс технологиялық институтының Родни Брукс болып табылатын, негізін қалаушылардың бірі компания, кейінірек Rethink Robotics", - дейді оқыту алгоритмін ойын күрделі стратегиялық головоломку – бұл интеллект. Кем дегенде емес, қандай біз оны ұсынамыз.

Сарапшы түсіндіреді, қандай күшті AlphaGo не көрсетті кезінде қойылған алдына, шын мәнінде, ол емес, қабілетті емес, бұл басқа. Сонымен қатар, ол оқталған осылайша, бұл мүмкін ойнауға ші тек стандартты өріс 19 x 19. "Порталына берген сұхбатында TechCrunch Брукс айтып, жақында мүмкіндігі сөйлесу командасымен DeepMind және анықтау бір қызықты деталь. Туралы не болар еді, поменяй жарысты ұйымдастырушылар мөлшері тақта ші ұлғайтып, оның 29 x 29 жасушаларының командасы AlphaGo деді оған, тіпті жеңіл өзгерту ойын өріс алып келіп еді, сол "бізге келгелі соңы".

"Менің ойымша, адамдар көріп, қаншалықты жақсы алгоритм орындай отырып, бір міндет, және, бәлкім, сол, - деп санайды қабілетті де тиімді орындауға басқа. Бірақ бұл, ол мүмкін емес", — деп Брукс.

Дөрекі интеллект

осы жылдың мамыр Айында берген сұхбатында Дэвину Колдвею іс-шарада TechCrunch Disrupt Каспаров атап өтті әзірлеу компьютердің қабілетті, шахмат ойнауға әлемдік деңгейде, бұл бір, бірақ мүлдем басқа атауға мұндай компьютер таза жасанды интеллект, өйткені ол оларға емес болып табылады. Бұл-жай ғана машина, ол ұрып барлық есептеу қуаты проблеманы шешуге ол үйреніп күресу жақсы.

"шахмат машиналар жеңеді-мүмкіндіктерін терең есептеу есептеу. Олар болуы мүмкін мүлдем непобедимыми болған жағдайда, үлкен деректер базасын өте тез аппараттық құралдар және логичных алгоритмдер. Алайда, олар айырылған түсіну. Олар распознают стратегиялық үлгілер. Машинаның мақсат жоқ", — деді Каспаров.

Гил Пратт бас директоры, Toyota Institute, бөлім, компания Toyota мәселелерімен айналысатын және жобалармен байланысты жасанды интеллект және оның пайдаланылуын үй роботтарда және пилотсыз көліктеріне де қатысты сұхбат TechCrunch шеңберінде іс-шаралар Robotics Session. Оның пікірінше, бір қорқыныш, біз естиміз адамдардың кең ауқымы қоса алғанда, Илона Маска, жақында назвавшего жасанды интеллект "экзистенциальной адамзатқа төнген қауіп", негізделуі мүмкін артық емес сол антиутопичными сипаттамаларына, әлем бізге ұсынады, ғылыми фантастика.

"Біздің қазіргі жүйесін терең оқыту жақсы орындауда алдына қойылған міндеттерді ғана соншалық, ол үшін біз оларды өзіміз құрдық. Бірақ шын мәнінде олар өте узкоспециализированы және крошечны бойынша өзінің ауқымы. Сондықтан, менің ойымша маңызды сайын контексінде осы тақырыпты еске түсіре және қандай, олар қаншалықты жақсы және қандай, олар қаншалықты шын мәнінде, тиімділігі аз. Сондай-ақ, алыста біз сол сәттен бастап бұл жүйе бастау алады ұсынуға ту қауіп төндіреді, дейді Илон Концентра қалған", — деп Пратт.

Брукс, өз кезегінде, TechCrunch Robotics Session айтуынша, адамдар арасында жалпы үрдісі байқалады деп санауға егер алгоритмі қабілетті күресу міндеті "икс", онда ол, шамасы, осындай ақылды адам.

"Менің ойымша, себебі, адамдар қоса алғанда, Илона Маска жасайды, қатені, мынада. Кезде біз адам, өте жақсы справляющегося қойылған алдына міндет, біз түсінеміз, ол ие жоғары құзыретіне бұл істе. Меніңше, сол ең модель адамдар тырысады қолдануға және машинному оқыту. Бұл қалай жасалады ең басты қателік", — дейді Брукс.

компанияның Басшысы Facebook Марк Цукерберг назарбаев өткен жексенбіде тікелей көрсетілімін барысында да сөз сөйлеп, айтылған сыннан комментариев Илона Маска, атай, олардың "өте безответственными". Пікірінше Цукерберга, А, қабілетті болады елеулі жақсарту біздің өмір. Magot өз кезегінде шешті емес отмалчиваться және ответил Цукербергу, сондай-ақ "шектеулі түсіну туралы" ІЛІКТІ. Тақырыбы әлі жабық, және Концентра уәде сәл кейінірек егжей-тегжейлі жауап беруге нападки тарапынан әріптестерді IT-индустрия.

айта кетейік, Концентра жалғыз емес, кім деп санайды А, әкелуі мүмкін ықтимал қауіп-қатер. Физик Стивен Хокинг және философ Ник Бостром да өзінің алаңдаушылығын білдіреді әлеуеті туралы енуін жасанды интеллект тұрмыс салты адамзат. Бірақ, ең алдымен, олар туралы көп генерализированном жасанды интеллекте. , Ол үйренуде осындай зертханаларда, Facebook AI Research, DeepMind және Maluuba қарағанда, туралы узкоспециализированном ӘНЕ, алғашқы зачатки, оны біз көре аламыз.

Брукс, сондай-ақ деп атап өтті, көптеген сыншылардың А, тіпті жұмыс істейді, осы саладағы, жәнебұл ұсынды, бұл адамдар жай ғана түсінбейді, қаншалықты қиын, кейде іздеу шешім әрбір жекелеген міндетті.

"шын мәнінде адамдар деп санайтын А, экзистенциальной қауіп көп емес. Стивен Хокинг, британдық астрофизик және астрономы Мартин Рис... және тағы да бірнеше адам. Ирония, бұл олардың көпшілігі біріктіреді бір ерекшелігі – олар тіпті саласында жұмыс істейді, жасанды интеллект, — деді Брукс.

"сол бізді кім жұмыс істейді ІЛІКТІ, әбден айқын, қаншалықты қиын, кейде қол жеткізуге жұмыс нәрсені деңгейінде дайын өнім".

Дұрыс ұсыну КТІ

Бөлім проблемалары беріп отырған тағы да бір біз атаймыз, бұл "жасанды интеллект". Шындық, бұл "интеллект" мүлдем ұқсамайды адами интеллект, анықтамалық және лексикалық сөздіктер, әдетте, ретінде сипатталады "оқыту қабілеті, түсіну және приспосабливаемости жаңа жағдайлар".

Паскаль Кауфман, бас директоры Starmind, стартап ұсынатын көмек басқа компанияларға пайдалану ұжымдық адами ақыл-ой іздеп, проблемаларды шешуді, бизнес саласында, оның ішінде 15 жыл ізденіп, нейробиологию. Адам миы компьютер және, атап Кауфман, жұмыс істейді мүлдем басқаша еді айқын қателік оларды салыстыру.

"Ұқсастығы – миы сияқты жұмыс істейді компьютер – өте қауіпті және бұл кедергі прогресс даму ІЛІКТІ", — дейді Кауфман.

Сарапшы атап өткендей, біз продвинемся түсінуге адами интеллект, егер қарастыратын боламыз, оны технологиялық тұрғыдан.

"Бұл адасушылық, алгоритмдер жұмыс істейді ретінде, адам миының. Адамдарға жай ғана ұнайды алгоритмдер, сондықтан олар ойлайды, ми сипаттау, олардың көмек. Менің ойымша, бұл түбірімен дұрыс емес", — қосады Кауфман.

бірдеңе емес

Бар көптеген мысалдар ИИ-алгоритмдер көрсетіледі емес ақылдымыз, біз үйреніп қалған олар туралы ойлауға. Және бірі, бәлкім, ең бесславных бола алады ИИ-алгоритмі Тэй (Tay) құрылған команда әзірлеу ИИ-жүйелер Microsoft компаниясының және шыққан бақылаудан өткен жылы. Уақыт қажет болды кем дегенде бір күн үшін, айналдыру бота " осы расиста. Сарапшылар бұл орын алуы мүмкін кез-келген А,-жүйесімен, оған ұсынады жаман мысалдар үшін үлгі. Егер Тэй, ол дөңгелектерінің әсері нәсілшілдік және басқа да оскорбительных лексикалық словоформ. Сондай-ақ ол запрограммирована "оқыту" және "айна сияқты мінез-құлық", онда көп ұзамай бақылаудан шығып кетті зерттеуші.

аясында алған кең таралуын зерттеу мамандарға Корнеллского және Вайомингского университеттер анықталды, бұл өте оңай алдауға алгоритмдер, натренированные арналған сәйкестендіруді сандық суреттер. Мамандар тауып, бұл сурет, ол выглядело "скремблированная бессмыслица адамдар үшін", алгоритміне анықталуы қалай бейнесі қандай да бір күнделікті объектінің тәрізді "мектеп автобусы".

- бабына Сәйкес, жарияланған MIT Tech Review және описывавшей бұл жоба емес, соңына дейін түсінікті, неге алгоритмі болады алдауға сол себепті, олар бұл жасадық зерттеушілер. Бұл жасағанын, бұл адамдар үйренді анықтауды, олардың алдында орналасқан – не дербес немесе, не әлдебір түсініксіз бейнесі. Алгоритмдер, өз кезегінде, анализирующие пиксели, оңай ұйымына берілу манипуляциялар және алдауға.

Бұл самоуправляемых автомобильдерді, онда көрсетеді барлық әлдеқайда қиын. Кейбір нәрселер бар адам түсінеді, қашан дайындалады тап белгілі бір жағдайларға байланысты. Машинаны сол осы үйрету өте қиын болады. Үлкен-бабында жарияланған бірінде автомобиль блог Родни Бруксом осы жылдың қаңтар айында, бірнеше мысалдар келтіріледі осындай жағдайларды қоса алғанда, ту, сипатталады, түрлі ұлт өкілдерінің өнер фестивалі жақындап жол белгісіне "Тоқта", орналасқан жанында жаяу жүргіншілер қаладағы ең басында болып тұр және сөйлеседі ересек баламен.

Алгоритмі, біріншіден, оқталған болатындай күту жүргіншілер жол арқылы. Бірақ бұл, егер бұл жаяу жүргіншілер мен ой болған жоқ, жолдан, өйткені олар күтеді, айталық, мектеп автобусы? Жүргізуші-адам бұл жағдайда еді посигналить жаяу жүргіншілерге, олар бар еді помахать оған қолмен, хабарлай ішінде де жүруге болады. Пилотсыз сол автомобильге мұндай жағдайдың жай застрять намертво, шексіз күтпей-ақ, адамдардың өтуіне жол арқылы, өйткені алгоритмі ие емес түсіністікпен осындай бірегей адами сигналдарды, деп жазады Брукс.

Әрбір мұндай мысалдар бізге көрсетеді, қаншалықты алыс бізге әлі енгізуге дамуы алгоритмдер, жасанды интеллект. Қаншалықты қатты алады, табысқа жетуге әзірлеушілер генерализованного А, – бұл сұрақ. Бар заттар, олармен қабілетті оп-оңай жеңе алады, бірақ оқыту үшін алгоритм бұл осы азаппен. Неге? Өйткені біз, адамдар, шек біздің оқытуда жиынтығы белгілі бір міндеттер.