Керек ашыңыз "қара жәшік" жасанды интеллект, жоқ болады тым кеш

Күні:

2018-07-18 01:10:08

Hits:

978

Рейтинг:

1Сүю 0Жеккөру

Үлесі:

Керек ашыңыз Source:

бірнеше жыл бойы 1980 жылдары талапкерлерді Медициналық мектеп аурухана Әулие Георгий Лондонда жұмыстарды таңдап алды, пайдалана отырып, жоғары технологиялы әдісі. Компьютерлік бағдарлама алғашқылардың бірі болып бірегей, просматривала түйіндемені таңдап, барлық өтінімдердің шамамен 2000 кандидаттар. Бағдарлама шешілмеген мәселелерге тоқталып жазу түсімдері туралы зерттей отырып, сипаттамалары табысты өтініш және корректировалась болғанша, оны шешу емес, совпадали пікірімен қабылдау комиссиясының.

Алайда, бағдарлама үйрендім табу артық жақсы бағалау және белгілері академиялық жетістіктер. Төрт жылдан кейін бағдарламаны іске асыру екі дәрігер ауруханада тауып, бұл бағдарлама, әдетте, жоққа шығаратынына әйелдер үміткер адамдарды неевропейскими есімдерімен қарамастан, олардың академиялық жетістіктері. Дәрігерлер тауып, бұл шамамен 60 үміткерлерге жыл сайын тек отказывали " әңгімелесу олардың жынысына немесе нәсіліне. Бағдарламада гендерлік және нәсілдік теріс түсінігі осы үшін пайдаланылатын, оның оқыту — мәні бойынша, үйрендім сол, дәрігерлер мен шетелдіктер емес, ең үздік үміткерлер докторы.

Отыз жыл өткен соң біз тап ұқсас проблема, бірақ бағдарламаның ішкі предубеждениями енді кеңінен таралған, шешім қабылдайды одан да жоғары ставкаларымен. Алгоритмдер, жасанды интеллект, негізделген машиналық оқыту, пайдаланылады барлық жерде бастап үкіметтік мекемелердің аяқтай отырып, денсаулық сақтау саласы, шешім қабылдай және болжам жасай отырып, негізделген тарихи деректер. Зерттей отырып заңдылықтары деректер, сондай-ақ, олар жұтып және теріс түсінігі. Google, мысалы, көрсетеді көп жарнама низкооплачиваемой жұмыс әйелдерге қарағанда, ер адамдарға; бір күндік жеткізу Amazon минует негритянские тоқсандар, ал сандық камера әрең распознают адамдар, ақ түсті.

түсіну Қиын болып табылады ма алгоритмі предвзятым немесе әділ және деп санайды тіпті компьютерлік сарапшылар. Себептерінің бірі мынада: бөлшектер құру алгоритмін жиі болып саналады, патенттелген ақпарат, сондықтан оларды мұқият күзететін иелері. Неғұрлым күрделі жағдайларда алгоритмдер соншалықты күрделі, тіпті жасаушылар білмейді анық, олар қалай жұмыс істейді. Бұл мәселе деп аталатын "қара жәшіктің" АН — біздің қабілетсіздігі көруге ішкі бөлігі алгоритм және түсіну, ол қалай келеді шешімі. Егер оны қалдыру керек запертым, біздің қоғам айтарлықтай зардап шегетін: сандық ортада жүзеге асырылуда тарихи кемсітушілік, біз олармен күресті көп жыл құлдықтан және крепостничества дейін әйелдерді кемсітудің.

Бұл алаңдаушылық айтылған шағын бірлестіктерде және информатика пән бұрын, енді жинауда елеулі айналымы. Соңғы екі жылда осы салада пайда өте көп жарияланымдар туралы ашықтығын жасанды интеллект. Осы осведомленностью өсуде жауапкершілік сезімі. "Мүмкін қандай нәрселер бізге керек құруға болады?", ойланады Kate Кроуфорд, зерттеуші, Microsoft және тең құрылтайшысы AI Now Insitute Нью-Йоркте.

"Машиналық оқыту ақыры шықты-на передний план. Енді біз тырысамыз, оны пайдалану үшін жүздеген әр түрлі міндеттерді нақты әлемде", дейді Рич Каруана, аға ғылыми қызметкері, Microsoft. "Мүмкін, бұл адамдар алады өрістету зиянды алгоритмдері айтарлықтай әсер ететін қоғам ұзақ мерзімді перспективада. Енді, меніңше, кенеттен бәрін түсіндік, бұл маңызды мемлекет біздің облыста".

Өз еркімен алгоритмі

Біз көптен бері пайдаланамыз, алгоритмдер, бірақ мәселе " қара жәшігі жоқ прецеденттер. Алғашқы алгоритмдер болды қарапайым және айқын. Олардың көпшілігі әлі күнге дейін біз пайдаланамыз, мысалы, несие төлеу қабілеттілігін бағалау үшін. Әрбір жаңа пайдалану ісі күшіне реттеу.

"Адамдар пайдаланған алгоритмдер несие төлеу қабілеттілігін бағалау үшін ондаған жылдар бойы, бірақ осы салаларда болды өте күшті реттеу, өсіп параллель пайдалана отырып, предиктивных алгоритмдер", - дейді Каруана. Реттеу ережелері кепілдік береді, бұл алгоритмдер болжау түсініктеме береді әрбір ұпай: сізге бас тартылды, өйткені сізде үлкен несие немесе тым төмен табыс.

басқа Да салалардағы сияқты құқықтық жүйесі және жарнама, жоқ ережелер, тыйым салу пайдалану көрінеу непросчитываемых алгоритмдер. Сіз білу керек, неге сіз отказали в қарыз немесе не взяли на работу, өйткені ешкім мәжбүр иесінің алгоритмін түсіндіру, ол қалай жұмыс істейді. "Бірақ біз білеміз, өйткені алгоритмдер оқиды деректер, нақты әлем, олар болуы тиіс предвзятыми — өйткені нақты әлем предвзят", - дейді Каруана.

Қарастырамыз, мысалы, тіл — бірі айқын көздерін біржақтылыққа. Кезде алгоритмдер оқиды сайлауына мәтінде олар формуют кейбір қауымдастығының арасындағы сөздермен айтқанда, олар бірге пайда болады көбінесе. Мысалы, олар үйренеді деп "ер адам үшін мүмкін компьютерлік бағдарламашы — бұл сол, не үшін әйелдер керек көресіз". Кезде осы алгоритм поручат табуға қолайлы түйіндеме жұмыс істеу үшін программист, біріншіден, ол таңдайды ерлер арасында кандидат.

Осындай проблемалары өте оңай түзетуге, бірақ көптеген компаниялар бұл жай ғана жұмсалады. Оның орнына, олар жасыруға осындай сәйкессіздік үшін қалқанның қорғалған. Қол бөлшектерге жұмыс алгоритмін, сарапшылар көптеген жағдайларда емес, білім алады, бар предубеждение немесе жоқ.

бұл алгоритмдер болып табылады құпия және тыс қалады юрисдикциясы реттейтін органдардың азаматтарға іс жүзінде мүмкін емесзасудить құрушылардың алгоритмдер. 2016 жылы жоғарғы соты Висконсина өтінішін қабылдамады адам қарап, ішкі жұмысын COMPAS. Ер адам, Эрик Лумис, түрмеге алты жылға түрмеге ішінара, өйткені COMPAS нормасынан оның "жоғары тәуекелді". Лумис дейді, бұл оның құқығы тиісті рәсімін бұзылса тәуелді судья непрозрачного алгоритм. Түпкілікті өтінім істі қарау Жоғарғы сотта АҚШ біріншілігінің сәтсіз маусым 2017 ж.

Бірақ скрытные компаниялар пайдаланатын болады өз еркіндігін шектеусіз уақыт бойы. Наурызға Еуроодақ қабылдайды заңдар шешімін табуды талап ететін компаниялардың мүмкіндіктерін түсіндіруге мүдделі клиенттерге, қалай жұмыс істейді, олардың алгоритмдері мен шешімдер қабылдайды. АҚШ-та жоқ, мұндай заңнаманы әзірлеу.

Криминалистика қара жәшіктің

Қарамастан, реттеуші органдар тартылған барлық бұл, мәдени қозғалыс ретінде әзірленеді және өрістетіледі алгоритмдер, азайта алады таралуы необъективных алгоритмдер. Өйткені компаниялар мен бағдарламашылар міндеттенеді істеу өз алгоритмдер және ашық объяснимыми, кейбір үміттенеді, бұл компания, ол емес жасайды, потеряют жақсы беделге жұртшылықтың көз алдында.

Өсуін есептеу қуатына мүмкіндік берді алгоритмдері, олар болып табылады нақты және объяснимыми — бұл техникалық тапсырмасын әзірлеушілер алмады жеңе тарихи. Соңғы зерттеулер көрсеткендей, жасауға болады объяснимые модельдер, олар деп болжайды рецидив криминалдық субъектілерінің де дәл, қара жәшік криминалистер сияқты COMPAS.

"Бәрі дайын, біз білеміз, қалай жасау үлгісі жоқ қара жәшіктерді", - дейді Синтия Рудин, доцент информатика және электротехника Дьюк Университетінде. "Бірақ оңай емес назарын аудару. Егер үкіметтік агенттіктер тоқтайды үшін моделі " қара жәшігі, бұл еді көмектесті. Егер сот бас тартады пайдалану моделі "қара жәшігі" үкім шығару үшін, бұл да көмектеседі".

Басқа да жұмыс істейді ойлап тексеру тәсілдері, әділдік алгоритмдерін құрып, тексеру жүйесін және балансировок дейін алгоритмі болады шығарылды әлем конденсаторы, қалай сынау әрбір жаңа препарат.

"Қазір моделі жасалады және өрістетіледі тым тез. Жүргізілмейді тиісті тексерулер шығару алгоритмін жарық көрді", - дейді Сара Тан келген Корнеллского университеті.

шын мәнінде, әзірлеушілер тиіс отметать белгілі біржақтылыққа — мысалы, жынысы, жасы және расе — іске ішкі симуляциялар тексеру үшін өз алгоритмдері бар басқа да проблемалар.

Сонымен қатар, бұрын жету нүктесіне дейін болған барлық алгоритмдер болады мұқият өте бастады шығарғанға дейін, бар мүмкіндігін анықтауға қандай болады шегеді біржақтылыққа.

өзінің соңғы жұмысы Таң, Каруана және олардың әріптестері сипатталған жаңа тәсілі екенін түсіну мүмкін сорғыш астында алгоритмдер "қара жәшігі". Ғалымдар моделін жасады, ол имитирует алгоритмі қара жәшігін оқи тәуекелді бағалау рецидивизма деректері бойынша COMPAS. Сондай-ақ, олар құрдық үлгісі басқа мамандықта деректері бойынша, нақты әлем көрсетеді, шын мәнінде қашты предсказанный рецидивизм. Салыстыру екі модельдер мүмкіндік берді ғалымдарға бағалау дәлдігі болжанатын балл, талдай отырып, алгоритм. Айырмашылықтар нәтижелері екі үлгілерін көрсете алады, қандай айнымалылар сияқты раса немесе жасы, мүмкін, неғұрлым маңызды осы немесе өзге де модельдері. Олардың нәтижелері көрсеткендей, COMPAS жүзді қалдым жатады қара адамдарға.

Дұрыс салынған алгоритмдер алады жоюға бұрыннан орныққан теріс түсінігі, қылмыстық сот төрелігі саласында, полиция қызметін және басқа да көптеген салалардағы қоғам.

Көп:

Қандай сандық бессмертие және қандай ол

Қандай сандық бессмертие және қандай ол

енді бір адам болуға бессмертным есебінен сандық технологиялар. Мен бұған сенбеймін. Ал сіз? 2016 жылы кіші қызы Цзи Чан-шөп Найон жарақатынан көз жұмған ауруға байланысты қан. Бірақ ақпан айында ана біріктірді өз қызымен виртуалдық шындық. Сарапшыла...

Неге зиянды ұзақ отыруға компьютерде, және оны қалай түзетуге

Неге зиянды ұзақ отыруға компьютерде, және оны қалай түзетуге

Мен бұл жерде жақында өткізді кішігірім сауалнама жолдастары мен таныстары арасында, оның ішінде, олар қалай бағалайды, өз тиімділігін көрсеткен кезде қашықтан жұмыс. Барлық дерлік кімді білемін — қазір үйден компьютермен және телефонмен. Оның ...

Параметрлік сәулет мүмкін

Параметрлік сәулет мүмкін " жасанды интеллект жобалау керек.

сіз не ойлайсыз туралы болашақта қандай суреттер тұр, сізде алдыма? Әуесқой ретінде ретрофутуризма – жанрының негізін положены ұсыну адамдар өткен болашағы туралы, мен әрқашан намысын өзіне болашақтың қаласы застроенными ғимараттар да, сыртына журнал...

Комментарий (0)

Бұл мақала емес, түсіндірмелер, бірінші болыңыз!

Добавить комментарий

Жаңалықтар

Отключил автоматты түрде жаңартуды Windows 10? Түрмеге!

Отключил автоматты түрде жаңартуды Windows 10? Түрмеге!

Операциялық жүйе Windows 10 бар көптеген әр түрлі функцияларын және мүмкіндіктерін түсіну, олардың кейде өте қиын. Алайда, пайдаланушылар осы ОС атап өткендей, бірі оның басты кемшіліктері болып табылады мәжбүрлеп тиеу барлық жаңа...

NASA қаржыландырады құру блокчейн-сервис

NASA қаржыландырады құру блокчейн-сервис " ғарыштық зерттеулер

Мамандар Акронского АҚШ-тағы университетінің зерттейді құру мүмкіндігі блокчейн-сервис, просчитывать траекториясын серіктес мүмкіндік бере отырып, оларға аулақ соқтығысу ғарыштық қоқыспен. Одан әрі жүргізу үшін жұмыстардың осы сал...

Еуроодақ 1 миллиард еуро жұмсайды әзірлеуге меншікті супер компьютерлер

Еуроодақ 1 миллиард еуро жұмсайды әзірлеуге меншікті супер компьютерлер

Ақпараттық-сараптамалық басылым Bloomberg-ке сілтеме жасай отырып, өтініш Еуропа комиссиясының хабарлауынша, Еуропалық Одақ жиналады жұмсауға, 1 миллиард еуро үшін қуып Қытай, АҚШ және Жапония әзірлеу супер компьютерлер. Ретінде к...

Пайда ма, әйтеуір жасанды интеллект сана?

Пайда ма, әйтеуір жасанды интеллект сана?

туралы Ұмытыңыз, қазіргі заманғы қарапайым саласындағы жетістіктер, жасанды интеллект сияқты самоуправляемые автомобильдер. Шын мәнінде, барлық күтеді кое-содан басқа: машина, ол сезінеді және өзінің тіршілігін және қоршаған ортас...

Microsoft шығарады жиынтығы әзірлеушілер үшін кванттық есептеу жүйелері

Microsoft шығарады жиынтығы әзірлеушілер үшін кванттық есептеу жүйелері

Үнемі ұлғайып отырған қарқыны әзірлеу саласындағы кванттық компьютерлер мүмкіндік береді деп айтуға толық квантовый дегенмен құрылады. Алайда әзірлеу үшін бағдарламалар кванттық компьютерлер талап етіледі ғана емес, білікті кадрла...

Google толығымен көшеді жаңартылатын энергия

Google толығымен көшеді жаңартылатын энергия

Іздеу алыбы Google жұмыс істеуде толық көшуге жаңартылатын энергия. Жақында корпорациясы қол қойған келісім-шарттар үш жаңа ветровыми станциялардың бірі орналасқан Оңтүстік Дакоте, екінші Айове, ал тағы біреуі Оклахоме. Осылайша, ...

Журналистер CNN тапты Мәскеуде үлкен ферма үшін майнинга

Журналистер CNN тапты Мәскеуде үлкен ферма үшін майнинга

Ірі майнинг-фермалар ешкімді таңдандыра алмайсың немесе Қытай Солтүстігінде Еуропа, ал Ресейде оларды өте аз — қазір оған тиесілі барлығы шамамен үш пайыз . Бірақ кейіпкерлері мен «біздің палестинах» — дәл ол...

Кешегі қорқытып алушы вирус болып шықты дополненным және түзетілген NotPetya

Кешегі қорқытып алушы вирус болып шықты дополненным және түзетілген NotPetya

Вирус-шифрлаушы, экспо-шабуыл ресейлік банктер және поразивший компьютерлер бірқатар украиналық ұйымдардың және ресейлік БАҚ деп аталады BadRabbit. Компания мамандары «Group-IB», проанализировавшие оның атап өткендей, жа...

Snapdragon PC — не үшін және қашан шығады?

Snapdragon PC — не үшін және қашан шығады?

Смартфондар — шағын, жеңіл және жұқа құрылғы жасауға мүмкіндік беретін көп екенін "біледі" ӨК. Дегенмен, көптеген ақылды телефон бар, бір елеулі кемшілігі — орналасқан олардың жұқа корпустарында аккумуляторлар мүмкін е...

Google не істеу керек екенін біледі ескі компьютерлер

Google не істеу керек екенін біледі ескі компьютерлер

У тез жетілдіру, компьютерлік техниканы бар және кемінде жағымды қарағанда, ілеспе прогресс еңбек өнімділігін арттыруға, функционалдық, аспект. Ол өте тез ескіреді, бірақ техникалық еді әлі де жұмыс істеу керек. Ауыстыру ескі комп...

Суперкомпьютер Hewlett-Packard бастан ғарышта

Суперкомпьютер Hewlett-Packard бастан ғарышта

бір Ай бұрын ХҒС бортына жүк бөлімінде " жүк кемесі Dragon келді суперкомпьютер SpaceBourne әзірлеген бірлескен күш-жігерімен алматы Hewlett-Packard. Оның үшін құрған қалай осындай жоғары технологиялық құрал-жабдықтар болады өздер...

Ғалымдар құрдық бірінші микросхему кванттық еске алу

Ғалымдар құрдық бірінші микросхему кванттық еске алу

Ғалымдар да үлкен үміт артады , пайдаланушы құбылыстар кванттық суперпозиция және кванттық запутанности және өңдеу үшін деректер. Бірақ әлі күнге дейін бірлестігін құру кванттық фишкалар жад. Қызметкерлерге тек Калифорния технолог...

Нашар сынау технологиясы кванттық 4D-кодтау

Нашар сынау технологиясы кванттық 4D-кодтау

Дәстүрлі технология кодтау ақпарат беру үшін пайдаланады двоичную жүйесі. Бұл ретте тіпті дамушы қазір тәсілдері кванттық ақпарат беру де негізделеді жүйесінде деректер жүйелері және теңсіздіктер жүйелері. Дегенмен тәсілдері много...

DARPA жасайды модульдік компьютерлер негізінде

DARPA жасайды модульдік компьютерлер негізінде "чиплетов"

Біз туралы "деп аталатын чиплетах" — жұқа кремнийлі қатпардағы, қандай тамаша переосмысляющих тұжырымдамасын дәстүрлі микросхемалар. Әзірленген инженер Palo Alto Research Center (бөлімше компанияның Xerox) чиплеты болады онд...

Известнейшая компьютерлік компаниясы ауысады Android?

Известнейшая компьютерлік компаниясы ауысады Android?

жаңа хабарлағандай, бірі-жетекші компьютерлік компаниялар әлем қарайды өту-өз арналған, ең алдымен, кәсіпорындардың Android құрылғыларының. Алайда, бұл болады білдіруі толық бас тарту Windows-технологиялар. Бұл іздеу мүмкіндіктері...

HP Enterprise жібереді, ХҒС-да суперкомпьютер

HP Enterprise жібереді, ХҒС-да суперкомпьютер

Әзірлеген HPE және NASA суперкомпьютер Spaceborne Computer жұмыс істейтін «Балансты», жиналады жеткізуге ХҒС-тасымалдағыш зымыранының көмегімен SpaceX келесі дүйсенбі, — деп Techcrunch. Онда өкілдерінің айтуынша, а...

А, от NVIDIA үйренді сурет салу, 3D-кесте бойынша нақты

А, от NVIDIA үйренді сурет салу, 3D-кесте бойынша нақты

конференцияда SIGGRAPH (Special Interest Group on Graphics and Interactive Techniques — Арнайы топ бойынша графикалық және интерактивті әдістері) компаниясы NVIDIA көрсетті өзінің жаңа АН қабілетті, құру үшөлшемді графикалық...

Ішінен ішек таяқшалары жасады биокомпьютер

Ішінен ішек таяқшалары жасады биокомпьютер

хабарлағандай, журнал редакциясы Nature, топта генетиков Гарвард университетінің алдық айналдыру ішек таяқшаны да өзіндік биологиялық компьютер. Негізінде бактериялар тіпті құрдық логикалық схеманы рөлі, электр сигналдары, оның ор...

Алты мысалдар кванттық компьютерлер бізге өте көмектеседі

Алты мысалдар кванттық компьютерлер бізге өте көмектеседі

Компьютерлер жоқ вакуумда. Олар мәселелерді шешеді және олар шешеді анықталады тек аппараттық қамтамасыз ету. Графикалық процессорлар өңдейді; суретті процессорлар жасанды интеллект жұмысын қамтамасыз етеді алгоритмдер АН; квантты...

Ғалымдар Ресей мен Канада әдісін ойлап тапты жеңілдету сәулет кванттық компьютерлер

Ғалымдар Ресей мен Канада әдісін ойлап тапты жеңілдету сәулет кванттық компьютерлер

Кванттық компьютерлер өндіруге қабілетті өте күрделі есептеулер арқасында бірегей сәулеті, бірақ, қарамастан, олардың болашағы өте күрделі құрылғы кванттық компьютерлер құруға мүмкіндік бермейді жеткілікті қуатты жүйесі. Бірақ-баб...