Темні дані: штучний інтелект вчиться визначати гомосексуалістів з фото

Ми стали покладатися на системи машинного навчання у всьому, від створення плейлистів до управління автомобілями, але як і будь-який інструмент, вони можуть бути використані в небезпечних і неетичних цілях, причому навіть випадково. Сьогоднішня ілюстрація цього факту — нова стаття дослідників з Стенфорда, які створили систему машинного навчання, яка, за їх твердженням, може сказати з кількох фотографія... гомосексуаліст перед вами. Чи ні.

Очевидно, це дослідження дивує і бентежить в рівній мірі. Крім того, що уразливі групи людей в черговий раз будуть піддаватися систематизованого вторгнення в особисте життя та інтимні теми, все це безпосередньо зачіпає еґалітарний уявлення про те, що ми не можемо (і не повинні) судити про людину за її зовнішністю, а також не маємо права вгадувати сексуальну орієнтацію по одному або двом знімків. Абсурд? Точність системи, про яку повідомляється в роботі, між тим, не залишає місця для сумнівів: тепер це не тільки можливо, але і зроблено.

Система уловлює еманації куди більш тонкі, ніж здатні воспрнимать люди — бачить підказки, про яких ви навіть не здогадуєтеся. І вона демонструє, як і замислювалося, що приватна недоторканність, приватне життя в епоху повсюдного комп'ютерного зору може бути просто знищена.

Перш ніж перейти до обговорення самої системи, потрібно прояснити, що дослідження проводилося з благими намірами. Питань, звичайно, не злічити числа. Найбільш актуальними, можливо, стали зауваження Міхала Косинські і Илун Вонг щодо того, чому робота взагалі побачила світ:

«Ми були дуже стурбовані цими результатами і витратили багато часу на те, щоб взагалі їх оприлюднити. Ми не хотіли піддавати людей тим ризикам, про яких самі попереджали. Здатність контролювати, коли і кому розкрити свою сексуальну орієнтацію, має вирішальне значення не лише для добробуту людини, але і для його безпеки».

«Ми вважали, що законодавці і спільноти ЛГБТК повинні бути інформовані про ризики, з якими стикаються. Ми не створювали інструмент втручання в особисте життя, скоріше показали, що прості і широко використовувані методи представляють серйозну загрозу особистому житті».

Безумовно, це всього лише одна з багатьох систематизованих спроб отримати секретну інформацію, таку як сексуальність, емоційний стан або медичні показники. Але в цьому випадку все серйозніше, з кількох причин.

Бачити те, що не можна (і не потрібно)

У статті, опублікованій в Journal of Personality and Social Psychology, докладно описаний цілком звичайний підхід, заснований на навчанні з підкріпленням, завдання якого визначення можливості ідентифікувати людей як гомосексуалістів чи немає на їхніх обличчях. Примітка: робота у формі чернетки.

Використовуючи базу даних зі знімками осіб (які були взяті з сайтів знайомств з відкритими даними), вчені зібрали 35 326 знімків 14 776 людей, серед яких в рівній мірі були представлені гомосексуальні чоловіки і жінки. Їх риси обличчя були витягнуті і розраховані: від форми носа і брів до рослинності на обличчі і виразу обличчя.

Нейромережа глибокого навчання з'їв всі ці риси, помічаючи, які зазвичай асоціюються з певною сексуальною орієнтацією. Вчені не «засівали» її упередження про те, як зазвичай виглядають люди зі звичайною або гомосексуальною орієнтацією; система просто розподілила риси і співвіднесла їх з статевими перевагами.

До цих паттернам можна звернутися, щоб дозволити комп'ютеру вгадати статеві уподобання людини — і виявилося, що система ШІ значно краще справляється з цим завданням, ніж люди. Алгоритм зміг вірно визначити орієнтацію 91% показаних йому чоловіків і 83% жінок, по парі за раз. Люди, яким надали ті ж знімки, були праві 61% і 54% випадків, відповідно — тобто, підкидання монетки видало б такий же результат.

Варіації між чотирма групами описані у другій статті; крім очевидних поведінкових відмінностей, начебто залицяння однієї групи або схожого макіяжу, загальна тенденція полягала у наявності «жіночих» рис у геїв і «чоловічих» рис у лесбіянок.

На малюнку показано, де перебували риси, що вказують на сексуальну орієнтацію

Слід зазначити, що така точність системи була досягнута в ідеальних умовах вибору між двома людьми, один з яких гомосексуальний. Коли система оцінювала групу з 1000 осіб, з яких тільки 7% належали гомосексуальним людям (для більше репрезентативності фактичної частки населення), її результати були не найкращими. У кращому випадку вибірка з 10 осіб була розпізнана з 90-відсотковою точністю.

Існує також реальна можливість наявності упередженості у системи за даних: по-перше, включали тільки молодих білих американців типу чоловік/жінка і гомосексуаліст/звичайний.

«Незважаючи на наші спроби отримати більш різноманітну вибірку, ми були обмежені вивченням білих учасників з США. Оскільки упередження проти гомосексуалістів і використання онлайн-сайтів знайомств нерівномірно розподілені між різними етнічними групами, ми не змогли знайти достатньої кількості небілих гомосексуальних учасників».

Хоча вчені припускають, що інші етнічні групи, швидше за все, будуть мати схожі лицьові патерни і система також буде ефективно їх визначати, у дійсності це потрібно підтвердити, а не припускати.

Такожможна стверджувати, що класифікатор збирав риси, характерні для людей на сайтах знайомств, не без допомоги механізму самоотбора — наприклад, американські чоловіки із звичайною статевою орієнтацією можуть навмисно уникати зовнішнього вигляду, який показав би, що вони можуть бути гомосексуальними.

Звичайно, в реальній ефективності цієї системи розумно засумніватися, бо навчається вона на основі обмеженого обсягу даних і здебільшого ефективна на прикладах з цього пулу. Проведення подальших досліджень буде необхідно. Однак здається недалекоглядним припускати, що така працююча система неможлива.

По правді кажучи

Багато хто стверджують, що ця технологія нічим не краще «френологии 2.0», підставний зв'язку незв'язаних фізичних рис зі складними внутрішніми процесами, і це зрозуміло, але не вірно.

«Фізіогноміка сьогодні повсюдно і справедливо відкидається як поєднання забобонів і расизму, замаскованих під науку», пишуть вчені у вступі до роботи (физиогномия судить за рисами обличчя, в той час як френологи займалися формою черепа). Але ця псевдонаука зазнала краху, тому що її прихильники рухалися в зворотному напрямку. Вони вирішували, хто замішаний у «кримінальних справах» або «сексуальні відхилення», а потім визначали, які риси є спільними для таких людей.

Виявилося, що люди просто погано справляються з подібними завданнями — ми бачимо в людях забагато себе і робимо інстинктивні висновки. Але це не означає, що видимі риси і фізіологія, або психологія не пов'язані. Ніхто не сумнівається в тому, що машини можуть відзначати в людях риси, які вони самі не бачать, від крихітних хімічних слідів розривних снарядів і наркотиків до субтильних патернів на МРТ сканах, які говорять про початковому раку.

Зі статті випливає, що система комп'ютерного зору вибирає однаково субтильні патерни, як штучні, так і природні, але в першу чергу останні вчені намагалися зосередитися на рисах, які не можна змінити з легкістю. Це підтримує гіпотезу про те, що сексуальність визначається біологічно, можливо, при впливі різних факторів на розвиток плоду, які можуть призвести до невеликих фізіологічних відмінностей і гормональним схемами привабливості. Спостережувані системою закономірності аналогічні тим, які передбачені теорією передпологових гормонів.

Звідси починаються більш широкі соціальні й філософські дебати про любові, сексуальності, детермінізм і зведенні емоцій і особистостей до простих біологічними ознаками. Але ми про це не будемо. Краще торкнемося іншого серйозної проблеми, яка стосується конфіденційності.

Небезпеки і обмеження

Наслідки автоматичного визначення орієнтації людини за кількома фотографіями величезні, перш за все і понад усе, тому що ставлять людей груп ЛГБТК під загрозу у всьому світі в тих місцях, де вони залишаються пригнобленим меншістю. Потенціал зловживання такою системою величезний і деякі можуть по праву не погодитися з рішенням дослідників про її створення та документуванні.

Але так само можна стверджувати, що краще мати можливість відкрити її, щоб реалізувати контрзаходи або іншим чином дозволити людям підготуватися до неї. Різниця в тому, що можна приховати інформацію, яку ви розміщуєте в онлайні ви не можете контролювати тих, хто бачить ваше обличчя. Це піднаглядне суспільство, в якому ми живемо, і прихованого від загального погляду залишається все менше і менше.

«Навіть найкращі закони і технології, спрямовані на захист конфіденційності, на наш погляд, приречені на провал», пишуть вчені. «Цифрове середовище дуже складна для поліції; дані можна легко передати через кордон, вкрасти або записати без згоди користувачів».

Ця проблема нескінченно складна, але при цьому демонструє вражаючі можливості штучного інтелекту. Наслідки таких технологій, як зазвичай, неоднозначні, але вкрай цікаві для майбутнього людства і окремої людини. Самі вчені не надто оптимістично оцінюють використання таких технологій в майбутньому, але є реалістами в епоху, коли технологія, від якої очікується план порятунку, швидше за все зіграє лиходія.

«Ми вважаємо, що подальша ерозія приватної життя неминуча, а безпека геїв та інших меньшинеств залежить не від права на недоторканність приватного життя, а від дотримання прав людини і терпимості до суспільству і державі», пишуть вони. «Щоб світ в епоху пост-приватності був більш безпечним і гостинним, його повинні населяти добре освічені люди, радикально нетерпимі до нетерпимості».

Технології не врятують нас від самих себе.

За матеріалами Techcrunch