Ви відразу розумієте, що перед вами порно. А чи зрозуміє комп'ютер?

На початку минулого місяця Tumblr оголосив, що буде банити порно. Коли нова політика у відношенні вмісту вступила в силу, приблизно через два тижні — 17 грудня — стало очевидно, що будуть проблеми. Після розгортання системи штучного інтелекту, яка повинна була перебанить всю порнографію на сайті, вона помилково позначила невинні пости в 455,4 мільйона блогах на сайті серед 168,2 мільярда постів: вази, відьом, риб і все таке інше.

для штучного інтелекту

Хоча незрозуміло, який автоматичний фільтр використовував Tumblr або створював свій власний — компанія не відповіла на запити по цій темі, очевидно, що соціальна мережа застрягла між власною політикою і технологіями. Наприклад, непослідовна позиція сайту в відношенні жінок, які демонструють соски» і художньої наготи, наприклад, призвела до контекстуальним рішень, які демонструють, що навіть Tumblr не знає, що забороняти у себе на платформі. Як частою компанії визначити, що вона вважає непристойним?

По-перше, блокувати ризикований контент важко, тому що спочатку складно визначити, що це таке. Визначення непристойності — ведмежий капкан, яким більше ста років, ще в 1896 році Сполучені Штати вперше прийняли закони, що регулюють непристойність. У 1964 році у справі Джакобеллиса проти Огайо щодо того, може чи Огайо заборонити показ фільму Луї Маля, Верховний суд видав, напевно, саме знамените визначення жорсткої порнографії на сьогодні: «Я не буду намагатися і далі дати визначення такого роду матеріалу, яке, як я розумію, буде включено в стенографическое опис; і, можливо, мені ніколи не вдасться зробити це зрозуміло», - сказав суддя Поттер Стюарт. «Але я знаю, що це таке, коли бачу, і кінофільм, пов'язаний з цією справою, цим не є».

алгоритмів машинного навчання та ж проблема. Саме цю проблему намагається вирішити Брайан Делордж, CEO Picnix, компанії, яка продає спеціалізовану технологію штучного інтелекту. Один з їхніх продуктів — Iris — являє собою додаток на стороні клієнта, яке служить для виявлення порнографії, щоб «допомогти людям», як каже Делордж, «які не хочуть порно у своєму житті». Він зазначає, що окрема проблема порно в тому, що там може бути що завгодно, купа різних речей — і зображення, які порнографічними не є, можуть мати схожі елементи. Зображення вечірки на пляжі може бути заблоковано не тому, що на ньому більше шкіри, ніж на фотографії в офісі, а тому що це на межі. «Ось чому дуже важко навчити алгоритм розпізнавання зображень всьому відразу», говорить Делордж. «Коли визначення стає складним для людей, комп'ютер теж стикається з труднощами». Якщо люди не можуть домовитися про те, що є порно, а що ні, чи може комп'ютер взагалі сподіватися дізнатися різницю?

Для того, щоб навчити ІІ виявляти порно, перше, що вам потрібно зробити, це згодувати йому порно. Багато порнографії. Де його взяти? Ну, перше, що роблять люди, це скачують купу видосов з Pornhub, XVideos, говорить Ден Шапіро, співзасновник стартапу Lemay.ai, який створює фільтри ШІ для своїх клієнтів. «Це одна з тих сірих областей правового характеру — наприклад, якщо ви навчаєтеся на контенті інших людей, належить він вам?».

Після того, як програмісти скачують тонни порно, вони вирізують з відео кадри, які порнографією не є, щоб переконатися, що використовуються кадри не призведуть до блокування рознощиків піци. Платформи платять людям, здебільшого, за межами США, за маркування подібного контенту; робота низькооплачувана і нудна, немов вводити капчу». Вони просто сидять і зазначають: це таке порно, це — ось це. Фільтрувати доводиться небагато, тому що всі порно виходить з маркуванням. Навчання йде краще, якщо використовувати не просто фотографії, а великі вибірки даних.

«Часто доводиться не просто фільтрувати порно, а швидше супутній матеріал», говорить Шапіро. «Начебто підроблених анкет з фотографією дівчини і телефоном». Він має на увазі секс-робітниць в пошуку клієнтів, але це може бути що завгодно, не зовсім законне. «Це не порно, але такого роду речей, які ви не хочете бачити на своїй платформі, так?». Хороший автоматизований модератор навчається на мільйонах — якщо не десятки мільйонів — прикладах вмісту, а значить може заощадити багато людино-годин.

«Можна порівняти це з різницею між дитиною і дорослим», говорить Метт Цейлер, генеральний директор і засновник Clarifai, стартапу області комп'ютерного зору, який здійснює таку фільтрацію зображень для корпоративних клієнтів. «Можу сказати вам точно — пару місяців тому у нас була дитина. Вони не знають нічого про світ, для них все нове». Доводиться показувати дитині (алгоритмом) багато всякого, щоб він щось зрозумів. «Мільйони і мільйони прикладів. Але будучи дорослими — коли ми створили так багато контексту про світ і зрозуміли, як він працює — ми можемо дізнаватися щось нове всього з пари прикладів». (Так, навчити ІІ фільтрувати контент для дорослих — це як показати дитині багато порно). Сьогодні компанії на зразок Clarifai швидко ростуть. У них хороша база даних про світі, вони можуть відрізняти собак від кішок, одягнених від голих. Компанія Цейлера використовує свої моделі для навчання нових алгоритмів для своїх клієнтів — оскільки вихідна модель опрацювала багато даних, персональні версії вимагатимуть лише нових наборів даних для роботи.

Тим не менш, складно алгоритмомвсе зробити правильно. З вмістом, який очевидно порнографічне, він справляється добре; але класифікатор може неправильно позначити оголошення про спідній білизні як заборонене, тому що на картинці більше шкіри, ніж, скажімо, в офісі. (З бікіні і нижньою білизною, за словами Цейлера, дуже складно). Це означає, що люди, які займаються маркуванням, повинні зосередитися на цих крайніх випадках у своїй роботі, віддаючи пріоритет того, що важко класифікувати моделі.

А що найскладніше?

«Аніме порно», говорить Цейлер. «Перша версія нашого детектора наготи не використовувала для навчання мультяшну порнографію». Багато разів ІІ байдикував, тому що не розпізнавав хентай. «Попрацювавши над цим для клієнта, ми впровадили купу його даних у модель і істотно поліпшили точність фільтра мультиплікаційних малюнків, зберігши точність реальних фотографій», говорить Цейлер.

Технологія, яка навчена винюхувати порно, може використовуватися і на інших речах. Технології, що лежать в основі цієї системи, напрочуд гнучкі. Це більше, ніж анімешні цицьки. Jigsaw від Alphabet, наприклад, широко використовується в якості автоматичного модератора коментарів у газеті. Це програмне забезпечення працює аналогічно класифікаторам зображень, за винятком того, що сортує по токсичності, а не за наготі. (Токсичність у текстових коментарях визначити так само важко, як і порнографію на знімках). Facebook використовує подібну автоматичну фільтрацію для виявлення суїцидальних повідомлень і контенту, пов'язаного з тероризмом, і він намагався використовувати цю технологію для виявлення фейкових новин на своїй масивній платформі.

Все це залежить від людського нагляду; ми краще справляємося з неоднозначністю і двозначним контекстом. Цейлер каже, що не думає, що його продукт позбавив кого-небудь роботи. Він вирішує проблему масштабування Інтернету. Люди все так само будуть навчати ІІ, сортуючи і маркуючи контент так, щоб ШІ міг його розрізняти.

Таке майбутнє модерації: індивідуальні, готові рішення, які надаються компанії, які роблю весь свій бізнес на навчанні все більш досконалих класифікаторів більшій кількості даних. Точно так само, як Stripe та Square пропонують готові платіжні рішення для підприємств, які не хочуть обробляти їх самостійно, стартапи начебто Clarifai, Picnix і Lemay.ai будуть здійснювати онлайн-модерацію.

Ден Шапіро з Lemay.ai сповнений надій. «Як і у випадку з будь-якою іншою технологією, вона все ще в процесі винаходу. Тому я не думаю, що ми поступимося в разі невдачі». Але чи зможе ШІ коли-небудь діяти автономно без нагляду людини? Незрозуміло. «Немає жодного маленького чоловічка в табакерці, який фільтрує кожен знімок», говорить він. «Потрібно отримувати дані звідусіль, щоб на них тренувати алгоритм».

Цейлер, з іншого боку, вважає, що одного разу штучний інтелект буде модерувати все самостійно. Зрештою, кількість втручань з боку людей зведеться до нуля, або до незначним зусиллям. Поступово зусилля людини перетворяться на те, що ІЇ зараз робити не може, на зразок міркувань високого рівня, самосвідомості — все, що є у людей.

Розпізнавання порнографії є частиною цього. Ідентифікація є відносно тривіальної завданням для людей, але набагато складніше навчити алгоритм розпізнавати нюанси. Визначення порогу, коли фільтр маркує зображення як порнографічне або не порнографічне, теж складне завдання, почасти математична.

Штучний інтелект — це недосконале дзеркало того, як ми бачимо світ, точно так само, як порнографія — це відображення того, що відбувається між людьми, коли вони залишаються наодинці. В ньому є частка правди, але повної картини — ні.

Не забудьте підписатися на .