Неге ІЛІКТІ, осуждающий қылмыскерлер — бұл қауіпті?

Жасанды интеллект қазірдің өзінде кейбір заттай анықтауға көмектеседі сіздің болашаққа. Сіз іздеген нәрсе поисковике, жеке сервисті сияқты Netflix немесе банк бағалайды сіздің жарамдылығын ипотекасын. Бірақ ол жасанды интеллект тура анықтауға, кінәлі сіз немесе жоқ сотта қандай? Бір қызығы, жекелеген елдерде бұл, бәлкім, болып табылады. Жақында американдық жоғары судьясы Джон Робертс сұрағанда, ол ұсынуға болған "ақылды машиналар, басқарылатын жасанды интеллект, болады іздестіруге көмектесетін айғақ-дәлелдерді немесе тіпті сот шешімдерін қабылдаған". Ол жауап берді: "Бұл туды және ол айтарлықтай көмектеседі, сот органдарына, өндірісте істер".

Бәлкім, Робертс болған түрі жақында жағдай Эрик Лумиса, оның жазасына алты жыл қорытындысы бойынша ұсынымдар құпия проприетарного бағдарламалық қамтамасыз ету жеке меншік компания. Лумис, ол қазірдің өзінде болды қылмыстық тарихын және түрмеге, қашып келген полиция мініп, енді бекітеді, бұл оның құқығы рәсімін бұзылса, өйткені бірде-ол, не оның өкілдері алмады қарастыру немесе наразылық келтіруге алгоритмі ұсыныстар.

Есеп дайындалды бағдарламасына Compas, ол сатылады Notrpointe соттар. Бағдарлама бұл жаңа үрдісті зерттеуде ИИ: көмектеседі судьяларға қабылдау "үздік" (немесе, кем дегенде, көп бағдарланған деректер) шешіміне сотта.

Дегенмен нақты деректер іс Лумиса көлік қозғалысы үшін жабық, онда сөзсіз ұсталады диаграммалар мен санын анықтайтын өмірі, мінез-құлқы мен қайталануы ықтималдығы Лумиса. Олардың арасында жасы, раса, гендерлік, әдеттер, тарих шолғыш және қандай да бір өлшем, бас сүйегінің. Дәлірек айтқанда, ешкім білмейді.

бұл прокурор іс бойынша іс деді судьяға, Лумис көрсетті "жоғары тәуекел рецидивизма, зорлық-зомбылық, істі сотқа дейін қарау". Бұл стандартты, келгенде үкім шығарылған. Судья келісті, - деді Лумису, бағалау бойынша "Compas ол ретінде айқындалған, білдіретін тұлға жоғары тәуекелі үшін қоғамның".

Жоғарғы соты Висконсин айыптап, Лумиса қосып, есеп Compas енгізуі үшін құнды ақпарат, оның шешім, бірақ ол атап өткендей, онсыз ол шығарған осындай үкім шығарды. Бұл тексеру керек шығар, әрине, жоқ. Қандай болуы мүмкін танымдық теріс түсінігі, қашан ісінде қатысады всемогущая "ақылды" жүйесі сияқты Compas, деп кеңес береді судьяларға қалай түсуге болады?

Белгісіз пайдалану

Кел ашып айтайық, ештеңе жоқ "заңсыз" деп жасады соты Висконсина — бұл жай ғана мысал. Басқа да соттар мүмкін болады сол.

өкінішке орай, біз білмейміз, қандай дәрежеде пайдаланылады, не басқа да алгоритмдер үкім шығарған кезде. Бар пікір, бұл кейбір соттар "аты аңызға айналған" сияқты Compas жабық зерттеулерде, бірақ мүмкін емес туралы мәлімдеуге құқығы бар өзінің әріптестік. Сондай-ақ бар пікір, бұл бірнеше стартаптар АН әзірлейді осындай ақылды.

Алайда, пайдалану А, заңнамадағы емес басталады және аяқталады, сот үкімі шығарылды, ол басталады тергеу. Ұлыбританияда қазірдің өзінде әзірленді жүйесі VALCRI, ол орындайды еңбекті аналитикалық жұмыс үшін санаулы секундтарда — жасырын келіп қосылады арқылы тонна деректер сияқты мәтіндерді, зертханалық есептер мен полицейлердің құжаттарды бөлектеу үшін нәрселерді талап етуі мүмкін одан әрі тергеу.

Полиция Уэст-Мидландс Ұлыбритания пайдалана отырып , жасырын деректерді қамтитын көп 6,5 миллион жазба. Ұқсас сынау жүргізіледі полиция Антверпен Бельгия. Дегенмен өткен жобалар не терең оқытуды қамтитын көлемді жинақтар, деректер, проблемалық.

Пайда үшін аздаған

Технология туғызып, көптеген пайдалы құрылғылардың залдары сот, көшіргіш аппараттар дейін шығарып ДНК-ның саусақ және күрделі әдістерін бақылау. Бірақ бұл дегенді білдірмейді кез-келген оқыту технологиясы — бұл жақсарту.

Дегенмен пайдалану ӘНЕ тергеулер мен үкімдер мүмкін ықтимал уақыты мен ақшасын үнемдеуге, ол породит өткір проблемалар. Баяндамада бойынша Compas жылғы ProPublica нақты айтылды, - деп қара бағдарламасы қате деп санайды неғұрлым бейім рецидивизму жауапкерлер қарағанда ақ. Тіпті ең күрделі жүйесін АН мүмкін унаследовать нәсілдік және гендерлік теріс түсінігі, кім оларды жасайды.

сонымен қатар, қандай мағына аудара салуға шешім қабылдау (кем дегенде ішінара), олар бойынша бірегей болып табылады адамдар үшін, алгоритмі қандай? АҚШ-та бар белгілі бір қиындық болған алқабилер судит, өз құрдастары. Стандарттар заңдар ешқашан мәліметтердің эталондық, сондықтан бұл алқа билер соты болып саналады неғұрлым демократиялық және тиімді жүйелерімен сотталған. Біз ұйым жасайтын қателер, бірақ уақыт өте келе накапливаем туралы білім, оларды жасауға белгілеуі.

Compas және осындай оған жүйесін ұсынады "қара жәшік" құқықтық жүйесі. Ондайлар болмауы керек. Құқықтық жүйесінің тәуелді, үздіксіз, ақпараттың ашықтығын және қабілетін қарастыру. Қоғам хочет пайда болуы, көтермелейді, жарысты құрумен стартаптар АН, олар жылдам, арзан және эксклюзивті шешімдер. Наспех жасалған ІЛІКТІ болады қорқынышты.

Жаңартылған нұсқасы Compas ашық бастапқы коды бар еді жақсартумен. Бірақ әуелі тура келеді көтеру стандарттары жүйесінің, ең алдымен біз бастаймыз түсіруге жауапкершілік пайдасына алгоритмдер.