Dati scure: l'intelligenza artificiale impara a determinare omosessuali in foto

Ci sono venuti a fare affidamento su un sistema di apprendimento automatico in tutto, dalla creazione di playlist prima di auto controllo, ma come ogni strumento, possono essere utilizzati in una pericolosa e immorale fine, anche accidentalmente. Oggi illustrazione di questo fatto — il nuovo articolo ricercatori di Stanford, che ha creato un sistema di apprendimento automatico, che, secondo loro, può dire di più foto... omosessuale di fronte a voi. O no.

Ovviamente, questa ricerca sorprende e scoraggia in egual misura. Oltre al fatto che i gruppi vulnerabili persone ancora una volta saranno esposti систематизированному invasione nella vita privata e intima tema, tutto questo riguarda direttamente egalitario idea che non possiamo (e non dobbiamo) giudicare una persona dal suo aspetto, e non abbiamo il diritto di indovinare l'orientamento sessuale di uno o due immagini. Assurdo? La precisione del sistema, di cui si dice nel lavoro, nel frattempo, non lascia spazio a dubbi: ora non solo è possibile, ma e fatto.

Il Sistema prende emanazioni molto più sottili, che sono in grado di воспрнимать gente vede i suggerimenti di cui non si conoscono nemmeno. E dimostra, come previsto, che il privato inviolabilità della vita privata nell'era onnipresente computer vision può essere semplicemente distrutto.

Prima di passare alla discussione del sistema, è necessario chiarire che la ricerca è stata condotta con buone intenzioni. Questioni, naturalmente, non contano i numeri. La più rilevante, forse, sono stati i commenti Michal Kosinski e Илун Wong relativamente, perché il lavoro è generalmente visto la luce:

«Siamo stati molto preoccupati per questi risultati e speso un sacco di tempo per il loro manifestarsi. Non abbiamo voluto esporre le persone sui rischi di cui avvertito. La capacità di controllare, quando e a chi rivelare il proprio orientamento sessuale, è di fondamentale importanza non solo per il benessere della persona, ma anche per la sua sicurezza».

«Abbiamo pensato che i legislatori e la comunità LGBTQ, devono essere consapevoli dei rischi che corrono. Non abbiamo creato uno strumento di interferenza nella vita privata, piuttosto hanno dimostrato che semplici e ampiamente utilizzati metodi rappresentano una grave minaccia per la vita personale».

Sicuramente, questo è solo uno dei tanti organizzati tentativi di estrarre informazioni sensibili, come la sessualità, lo stato emotivo o le annotazioni mediche. Ma in questo caso è ancora più grave, per diversi motivi.

Vedere ciò che non può (e non deve)

In un articolo pubblicato nel Journal of Personality and Social Psychology, dettagliatamente descritto un approccio basato sull'apprendimento per rinforzo, il cui compito è la definizione della possibilità di identificare le persone come omosessuali o no i loro volti. Nota: il lavoro è ancora in forma di bozza.

Utilizzando un database con le immagini di persone (che sono stati presi da siti di incontri con dati aperti), gli scienziati hanno raccolto 35 326 immagini 14 776 persone, tra cui ugualmente sono stati presentati omosessuali uomini e donne. I loro tratti somatici sono stati recuperati e sono: dalla forma del naso e delle sopracciglia prima di vegetazione sul viso e le espressioni del viso.

Rete neurale è un apprendimento profondo ingoiato tutte queste caratteristiche, notando che di solito sono associati con un particolare orientamento sessuale. Gli scienziati non «засеивали» i suoi pregiudizi su come di solito aspetto le persone con normale o orientamento omosessuale; il sistema semplicemente distribuito caratteristiche e соотнесла loro preferenze sessuali.

A questi modelli è possibile rivolgersi, per consentire al computer di indovinare le preferenze sessuali di una persona — e si è scoperto che il sistema di IA è molto meglio far fronte a questo compito, che gli uomini. L'algoritmo potrebbe determinare correttamente l'orientamento 91% presenti gli uomini e 83% delle donne, due alla volta. Le persone che hanno fornito le stesse immagini, aveva ragione il 61% e il 54% dei casi, rispettivamente — cioè, lanciare una moneta avrebbe tradito lo stesso risultato.

Le Variazioni tra i quattro gruppi sono descritti nel secondo articolo; oltre alle ovvie differenze comportamentali, come il corteggiamento di un gruppo o simile trucco, la tendenza generale era in presenza di «femminili» cazzo gay e «maschili» tratti di lesbiche.

come illustrato In figura, dove c'erano i tratti che indicano l'orientamento sessuale

Da notare che una tale precisione del sistema è stato raggiunto in perfette condizioni di scelta tra due persone, uno dei quali è omosessuale. Quando il sistema ha valutato un gruppo di 1000 persone, di cui solo il 7% appartenevano le persone omosessuali (per di più la rappresentatività effettiva quota di popolazione), i risultati non sono stati migliori. Nel migliore dei casi, un campione di 10 individui, è stato riconosciuto con il 90% di precisione.

C'è anche la reale possibilità di presenza di pregiudizi nei sistemi a causa di dati: in primo luogo, comprendeva solo i giovani americani bianchi sono un tipo di uomo/donna e omosessuale/normale.

«Nonostante i nostri tentativi di ottenere una maggiore varietà di campionamento, siamo stati limitati studio i partecipanti bianchi degli stati UNITI. Perché i pregiudizi contro gli omosessuali e l'utilizzo di on-line siti di incontri distribuiti in modo diseguale tra i diversi gruppi etnici, non siamo riusciti a trovare un numero sufficiente di colore omosessuali partecipanti».

Anche se gli scienziati suggeriscono che altri gruppi etnici, molto probabilmente, avranno simili facciali modelli e il sistema sarà anche in modo efficace la loro determinazione, in realtà è necessario confermare, e non supporre.

Anchesi può affermare che il classificatore ha raccolto tratti caratteristici per le persone su siti di incontri, non senza l'aiuto di un meccanismo di самоотбора — ad esempio, gli uomini americani con un normale orientamento sessuale possono deliberatamente di evitare l'aspetto, che avrebbe dimostrato che essi possono essere omosessuali.

Naturalmente, la reale efficacia di questo sistema è ragionevole dubitare, perché è addestrato e si basa su una quantità limitata di dati, e per la maggior parte efficace esempi di questo pool. Ulteriori ricerche saranno necessarie. Tuttavia, sembra miope ritenere che tale sistema funzionante non è possibile.

verità

Molti sostengono che questa tecnologia non è migliore di «frenologia 2.0», il finto comunicazione indipendenti tratti fisici complessi i processi interni, e questo è comprensibile, ma non è vero.

«Fisiognomica oggi universalmente e giustamente respinta come una combinazione di superstizioni e di razzismo, mascherati sotto la scienza», scrivono gli scienziati nell'introduzione al lavoro (физиогномия giudica i tratti del viso, mentre l'frenologi fatto la forma del cranio). Ma questa pseudo-scienza ha subito un crollo, perché i suoi sostenitori si muovevano in direzione opposta. Hanno deciso di chi è coinvolto in «criminali affari» o «deviazioni sessuali», e poi hanno identificato quali caratteristiche sono comuni per queste persone.

Il risultato è che la gente semplicemente male per far fronte a questo tipo di attività — ci vediamo in esseri umani troppo di se stessi e facciamo istintive conclusioni. Ma questo non significa che i tratti visibili e la fisiologia e la psicologia non sono collegati. Nessuno mette in dubbio che le macchine possono celebrare in esseri umani le caratteristiche che essi stessi non vedono, da piccoli chimici tracce di scoppio proiettili e droga fino субтильных modelli su scanner MRI, che parlano di inizio cancro.

Da un articolo, che il sistema di visione artificiale sceglie ugualmente субтильные modelli, come artificiali e naturali, ma soprattutto questi ultimi; gli scienziati hanno cercato di concentrarsi sui tratti che non è possibile modificare con facilità. Questo supporta l'ipotesi che la sessualità è determinato biologicamente, forse, se esposto ad una varietà di fattori per lo sviluppo del feto, che può portare a lievi differenze fisiologiche e ormonali schemi di attrattiva. Osservate il sistema di modelli simili a quelli previsti dalla teoria предродовых ormoni.

Da Qui iniziano sociale più ampio e dibattito filosofico sull'amore, la sessualità, il determinismo e l'intelligenza delle emozioni e personalità a semplici caratteristiche biologiche. Ma noi non lo faremo. Meglio tocchiamo un altro grave problema che riguarda la privacy.

Pericoli e limiti

Le Conseguenze di rilevamento automatico dell'orientamento l'uomo in più le foto sono enormi, prima di tutto e soprattutto, perché mettono di gruppi di persone LGBTQ in pericolo in tutto il mondo in quei luoghi, dove rimangono oppressi minoranza. Il potenziale di abuso di tale sistema è enorme e alcuni possono per diritto di non essere d'accordo con la decisione dei ricercatori della sua creazione e documentazione.

Ma allo stesso modo si può affermare che è meglio avere la possibilità di aprire il suo, per implementare contromisure o in altro modo di permettere alle persone di prepararsi per esso. La differenza è che è possibile nascondere le informazioni da pubblicare on-line; non si può controllare chi vede la vostra faccia. Questo поднадзорное società in cui viviamo, e di nascosto dal punto di vista generale rimane sempre meno.

«Anche i principi e le tecnologie finalizzate alla tutela della privacy, a nostro avviso, è destinato a fallire», scrivono gli scienziati. «L'ambiente digitale è molto complessa per la polizia; i dati possono essere facilmente passare attraverso il confine, rubare o registrare senza il consenso degli utenti».

Questo problema infinitamente complessa, ma questo dimostra notevoli capacità di intelligenza artificiale. Le conseguenze di tali tecnologie, come al solito, sono ambigue, ma estremamente interessanti per il futuro dell'umanità e dell'individuo. Gli scienziati stessi non sono particolarmente ottimista circa l'uso di tali tecnologie in futuro, ma sono realistici in un'epoca in cui la tecnologia, da cui si prevede di il piano di salvezza, probabilmente interpreterà il cattivo.

«Noi crediamo che un'ulteriore erosione della privacy è inevitabile, e la sicurezza di gay e di altri меньшинеств non dipende dal diritto alla privacy e al rispetto dei diritti umani e la tolleranza verso la società e lo stato», scrivono. «Per il mondo nell'era post-privacy era più sicuro e accogliente, il suo bisogno di abitare persone istruite, radicalmente intolleranti intolleranza».

La Tecnologia non ci salverà da noi stessi.

i Techcrunch