Алдауға қалай алгоритмі жасанды интеллект және бұл қолайсыздыққа

далада 2022 жылға. Сіз едете арналған өзін-өзі басқаратын машинада, әдетте, қала бойынша. Автомобиль мінсіз белгіге "тоқта", қасынан өтіп бара жатып, оның жолдарында еді көп, бірақ бұл жолы емес, тоқтайды алдында. Сіз үшін бұл "тоқта" белгісі ұқсас басқа да. Бірақ автокөлік үшін ол мүлдем басқа. Бірнеше минут бұрын, ешкімді ескерте отырып, қаскүнем наклеил белгісіне кішкентай тақтайша незаметную үшін адами көз, бірақ ол мүмкін емес байқамау технологиясы. Яғни малюсенькая жапсырма белгіде айналдырды белгі "тоқта" нәрсе, өте тамаша белгісінің "стоп".

бұл Барлық көрінуі мүмкін керемет. Бірақ өсіп келе жатқан область зерттеулер дәлелдейді жасанды интеллект мүмкін обманут шамамен мәселен, алғанда қандай да бір крошечную деталь, мүлдем незаметную адамдар үшін. Аталған алгоритмдер машиналық оқыту жиі пайда берері, біздің қаржы, біздің денсаулық сақтау жүйесі, компьютерлік ғалымдар үміттенеді туралы көбірек білуге, оларды қорғай осындай шабуылдардың — біреу тырысады одурачить бойынша-осы.

"Бұл тудырады өсіп келе жатқан алаңдаушылық облысы машиналық оқыту және қоғамдастық ІЛІКТІ, әсіресе, өйткені бұл алгоритмдер пайдаланылады көп", дейді Дэниел Лоуд кафедрасының доценті, компьютерлік және ақпараттық ғылымдар Университетінде Орегон. "Егер спам өтеді немесе бірнеше хат жіберіңіз, бұл әлі соңы емес, света. Бірақ егер сіз сүйенеді жүйесіне көру "өзін-өзі басқаратын машинада дейді, автокөлікке қалай баруға, не бұл емес врезаясь ставкалары болады әлдеқайда жоғары".

Қарамастан сломается машина немесе взломана, ұтылмайды алгоритмдер машиналық оқыту "көреді". Міне, машиналар үшін панда бастайды сияқты көрінеді гиббон, ал мектеп автобусы — түйеқұс.

бір экспериментке ғалымдар Франция және Швейцария көрсетті мұндай ауытқу мүмкін заставить компьютер қате қабылдауға ақуыз үшін сұр аумақты түлкі, кофейник үшін попугая.

бұл Қалай болады? Туралы ойланып көрші бала оқиды анықтауды сандар. Разглядывая рәміздер бір басқа, бала бастайды подмечать кейбір жалпы сипаттамалары: біреулері жоғары және ұтымды болу, алтылық және ондық құрамында бір үлкен болады, ал сегіздік — екі, және, осылайша, бұдан әрі. Кейін олар көреді жеткілікті мысалдар, олар тез танып, жаңа сандар түрінде рт, восьмерок немесе троек — тіпті арқасында шрифту немесе почерку олар көрінуі сияқты кез келген басқа да төрттік, сегіздік немесе үштік, олар бұрын-соңды бұрын көрген.

Алгоритмдер машинамен оқуды үйренуде әлем оқып, бірнеше ұқсас процесс. Ғалымдар скармливают компьютерге жүздеген немесе мыңдаған (әдетте, белгіленген), мысал үшін, олар келеді, және табу үшін компьютерде. Кезде машина просеивает деректер — бұл саны, бұл жоқ, бұл сан, бұл — ол бастайды подмечать ерекшеліктері әкелетін жауапқа. Көп ұзамай ол көре алады суретті мен айта отырып: "Бұл бес!" жоғары дәлдікпен.

сөйтіп, адам балалары, сондай-ақ компьютерлер мүмкін анықтауды үйрену үлкен объектілерінің саны — сан-ге дейін, көшек, қайық дейін жеке адам.

Бірақ, айырмашылығы дитяти адам компьютер емес назар аударады бөлшектер жоғары деңгейдегі сияқты шатасқан құлақ мысықтарды немесе айрықша қырлы форманың кішкене тесіктері нысанын төрттік. Ол көреді таза суретті.

оның Орнына, ол қарап жекелеген пиксели сурет — және ең жылдам тәсілі бөлуге болады нысандар. Егер басым көпшілігі бірлік болады қара пиксель белгілі бір нүктесінде бірнеше ақ пиксель басқа да нүктелерінде, машина өте тез үйрену және оларды анықтау бойынша бірнеше пикселям.

Енді оралайық белгіге "стоп". Білінбей поправив пиксели сурет — сарапшылар мұндай араласу "пертурбациями" — алдауға болады компьютер мәжбүр деп ойлаймын белгі "тоқта", мәнін, және жоқ.

осыған Ұқсас зерттеу жүргізілген Зертхана эволюциялық жасанды интеллект Университет Вайоминг және Корнеллского университетінің өндірді өте көп оптических иллюзий үшін жасанды интеллект. Бұл психоделические бейнелері абстрактілі ою және гүл де ұқсас емес, адамдар үшін, бірақ тез распознаются компьютер түріндегі жылан немесе мылтық. Бұл да ІЛІКТІ көрінуі мүмкін болса көре объект, не көріп, оның орнына басқа нәрсе.

Бұл әлсіздік таралған барлық түрлері алгоритмнің машиналық оқыту. "Күтуге болар еді, бұл әрбір алгоритмі бар брешь в броне", - дейді Евгений Воробейчик кафедрасының доценті информатика және есептеуіш техника Университетінде Вандербильта. "Біз өте күрделі многомерном әлемде алгоритмдері мен өз табиғаты бойынша қозғайтын тек аз ғана бөлігі".

Воробейчик "өте сенімдімін", - деп, егер бұл осалдықтар бар, біреу анықтай алмаса, оларды қалай пайдалану. Бәлкім, біреулер бұл жасады.

Қарастырайық спам сүзгілері, автоматтандырылған бағдарламалары, електен кез келген неуклюжие электрондық хаттар. Спамеры мүмкін көріңіз айналып бұл тосқауыл, өзгертіп жазу деген сөздерден (орнына виагры — ви@гра) немесе қосып тізімі "жақсы сөз", олар, әдетте, кездеседі, қалыпты хаттарында: вроде "ага", "маған", "қуаныштымын". Сонымен қатар спамеры мүмкін көріңіз тастау сөздер жиі пайда болады спам, мысалы, "ұялы" немесе "ұтыс".

- мүмкін жету алаяқтар бір күні? Өзін-өзі басқаратын автокөлік, жалған стикер арналған "тоқта" белгісі болып табылады классикалық сценарий бойынша, ол ойлап сарапшыларосы саладағы. Қосымша деректер көмектесе порнографияны проскочить арқылы қауіпсіз сүзгілер. Басқа да мүмкін көріңіз санын ұлғайтуға құқылы. Хакерлер мүмкін подправить коды зиянды бағдарламалық қамтамасыз ету үшін ускользнуть от құқық қорғау органдары.

Бұзушылар түсіну мүмкін қалай құруға пропускающие деректер, егер заполучат көшірмесі алгоритмнің машиналық оқыту, ол алдауға келеді. Бірақ пробраться сквозь алгоритмі, бұл міндетті емес. Тек сынған оның өрескел күш, набрасывая оған аздап әр түрлі нұсқаларын электрондық пошта немесе суреттер, әзірге олар емес, өтеді. Уақыт өте келе, бұл болады, тіпті пайдалану үшін мүлдем жаңа моделін, ол білуге болады, бұл іздеген жақсы, балалар, қандай жүргізуге деректері, оларды алдауға.

"Адамдар манипулируют жүйелерімен машиналық оқыту бері олар алғаш рет ұсынылды", - дейді Патрик Макдэниел, профессор компьютерлік ғылымдар мен инженерия Пенсильванском университеті. "Егер адамдар пайдаланады, бұл әдістер, біз тіпті бұл туралы білуі мүмкін емес".

Осы тәсілдермен пайдалана алады ғана емес, алаяқтар — адамдар жасырынуға жылғы рентген көз, қазіргі заманғы технологиялар.

Егер сіз қандай да бір саяси диссидент кезінде репрессивном режимде келсе, іс-шаралар өткізу рұқсатынсыз арнайы қызмет қажет болуы мүмкін қашу автоматты әдістерін байқау негізінде машиналық оқыту", дейді Лоуд.

бір жобаларды жарияланған, қазан Университетінің зерттеушілері Карнеги — Меллон құрып, бір-екі ұпай, мүмкін жұқалап алдауы жүйесін тану тұлғаларға мәжбүрлеу компьютер қате қабылдауға непалдағы Риз Уизерспун үшін Рассела Крау. Бұл күлкілі естіледі, бірақ мұндай технология пайдалы болуы мүмкін кому-нибудь, кім партия болдырмауға тырысады цензура тарапынан билігі.

Бұл барлық осы істеу керек? "Жалғыз тәсілі толық құтылу бұл — идеалды модель, ол әрқашан дұрыс", - дейді Лоуд. Тіпті егер біз едік құру жасанды интеллект, ол асып түсіп еді, адамдардың барлық қарым-қатынастарда, әлем әлі де мүмкін подсунуть свинью " неожиданном.

Алгоритмдер машиналық оқыту, әдетте, бағалайды, олардың дәлдігі. Бағдарлама танып, орындықтар, 99% жағдайда, анық жақсы, бірақ та, ол танып, 6 орындық 10. Бірақ кейбір сарапшылар ұсынамыз басқа әдісі бағалау мүмкіндіктерін алгоритмді өңдеуге шабуыл: қатаң, тіпті жақсы.

Басқа шешім жасалуы мүмкін екенін сарапшылар өздерін сұрақ қоюға бағдарламалары белгілі бір қарқыны. Жасаңыз, өз мысалдары шабуылдар зертхананың мүмкіндіктерін негізге ала отырып, қылмыскерлер сіздің ойыңызша, содан кейін көрсетіңіз және олардың алгоритмнің машиналық оқыту. Бұл көмектесе алады оған астам тұрақты ұзақ уақыт бойы болған жағдайда, әрине, бұл тест шабуылдар сәйкес болады типі, ол тексерілуі нақты әлемде.

"Жүйесінің машиналық оқу — құралы түсіну үшін. Біз ақылға қонымды болуы тиіс және ұтымды деп біз оларға береміз және олар бізге айтады", - деп санайды Макдэниел. "Біз оларға ретінде жасалған оракулам ақиқат".