Escuro dados: inteligência artificial aprende a identificar os homossexuais na foto

Começamos a confiar no sistema de aprendizado de máquina em tudo, desde a criação de listas de reprodução, até o controle de carros, mas como qualquer ferramenta, eles podem ser usados em perigosos e antiético fim, mesmo acidentalmente. Hoje a ilustração deste fato — novo artigo de pesquisadores da universidade de Stanford, que criaram o sistema de aprendizado de máquina, que, por sua aprovação, pode-se dizer, por diversas fotografia... um homossexual na frente de você. Ou não.

Obviamente, esta pesquisa surpreende e desanima igualmente. Além do fato de que os grupos vulneráveis de pessoas mais uma vez estarão sujeitos систематизированному invasão na vida privada e íntima do tema, tudo isso afeta diretamente эгалитарное idéia de que não podemos (e não devemos) julgar uma pessoa por sua aparência, mas também temos o direito de discernir a orientação sexual de uma ou duas fotos. Um absurdo? A precisão do sistema, sobre o que é relatado no trabalho, no entanto, não deixa espaço para dúvidas: agora, não é apenas possível, mas e feito.

O Sistema capta as emanações de onde mais sutis, que são capazes de воспрнимать pessoas — vê dicas, que você nem pode imaginar. E ela demonstra, como pretendido, que a área de santidade, vida pessoal na era onipresente de visão computacional pode ser simplesmente destruída.

Antes de passar à discussão do próprio sistema, é preciso esclarecer que a pesquisa foi realizada com boas intenções. Questões, é claro, não achar o número. O mais relevante, talvez, de aço comentários Михала Косински e Илун Wong a respeito de por que o trabalho geralmente viu a luz:

"Estamos muito preocupados com estes resultados e gastou muito do seu tempo, para de todo se manifestar. Nós não gostamos de expor pessoas os riscos que se advertiu. A capacidade de controlar, quando e a quem revelar sua orientação sexual, é de fundamental importância não só para o bem-estar humano, mas também para a sua segurança".

"achamos que os legisladores e a comunidade LGBTQ deve estar ciente dos riscos que enfrentam. Nós não criamos a ferramenta de intervenção na vida pessoal, provavelmente mostraram que a simples e amplamente utilizados métodos representam uma séria ameaça à vida pessoal".

Definitivamente, este é apenas um dos muitos amarelas tentativas de extrair informações sensíveis, tais como a sexualidade, o estado emocional ou médicos de indicadores de desempenho. Mas neste caso não é grave, e, por várias razões.

Ver o que não pode (e não deve)

Em um artigo publicado No Journal of Personality and Social Psychology, detalhadamente descrito é bastante comum uma abordagem baseada em aprendizagem por reforço, cuja tarefa é a definição de possibilidades de identificar as pessoas como homossexuais ou não em seus rostos. Nota: o trabalho ainda sob a forma de rascunho.

Usando o banco de dados com fotos de pessoas (que foram tiradas de sites de namoro com abertas dados), os cientistas recolheram 35 326 imagens 14 776 pessoas, entre os quais igualmente foram apresentados os homens e mulheres homossexuais. Suas características faciais foram extraídos e avaliados: da forma do nariz e das sobrancelhas até a vegetação no rosto e expressões faciais.

Нейросеть de aprendizagem profunda скушала todas essas características, percebendo que normalmente é associado com uma determinada orientação sexual. Os cientistas não "засеивали" seus preconceitos sobre como geralmente são pessoas com o habitual ou homossexuais; o sistema é simplesmente dividiram a características e relacionou-os com preferências sexuais.

A esses padrões pode pedir para deixar o computador adivinhar preferências sexuais de uma pessoa — e descobriu-se que a inteligência artificial é muito melhor lidar com esta tarefa, do que as pessoas. O algoritmo foi capaz de identificar a orientação 91% mostrados a ele homens e 83% das mulheres em um par de vezes. As pessoas que forneceram as mesmas imagens, estavam corretos em 61% e 54% dos casos, respectivamente — ou seja, um cara da moeda emitiu teria o mesmo resultado.

Variações entre os quatro grupos são descritos em segundo artigo, além das óbvias diferenças comportamentais, como o namoro de um grupo ou semelhante a maquiagem, a tendência geral era a presença de "femininos" porra, os gays e "masculinos" porra, eu lésbicas.

a ilustração A seguir mostra onde estavam características, apontando para a orientação sexual

Tenha em atenção que esta precisão do sistema foi alcançado em condições ideais de escolher entre dois homens, um dos quais гомосексуален. Quando o sistema calculou um grupo de 1000 pessoas, das quais apenas 7% pertenciam homossexual pessoas (para mais cobertura real proporção da população), os seus resultados não foram os melhores. Na melhor das hipóteses, uma amostra de 10 pessoas foi reconhecida com 90% de precisão.

Há também a possibilidade real de existência de viés de sistema devido a dados: em primeiro lugar, incluíram apenas os jovens brancos americanos do tipo de homem/mulher e o homossexual e normal.

"Apesar de nossas tentativas de obter a mais variada seleção, estávamos limitados estudo brancas participantes dos EUA. Porque o preconceito contra os homossexuais e o uso on-line de sites de namoro distribuídos de forma desigual entre os diferentes grupos étnicos, não conseguimos encontrar um número suficiente de não-branca homossexuais participantes".

Embora os cientistas sugerem que outros grupos étnicos, provavelmente, terão semelhantes faciais padrões e o sistema também será efetivamente-los a identificar, na realidade, é a necessidade de confirmar, ao invés de assumir o.

Tambémpode-se argumentar que o categorizador, reunindo características que as pessoas em sites de namoro, não sem o auxílio de um mecanismo de самоотбора — por exemplo, a dos homens americanos com a rotina de orientação sexual podem evitar intencionalmente a aparência, o que indicaria que eles podem ser homossexuais.

Claro, a real eficiência deste sistema é razoável duvidar, porque ela aprende com base na quantidade limitada de dados e a maior parte é eficaz em exemplos dessa piscina. Mais pesquisas serão necessárias. No entanto, parece míope supor que tal um sistema de trabalho não é possível.

verdade

Muitos afirmam que esta tecnologia não é melhor "frenologia 2.0", подставной de comunicação independentes físicas, traços complexos processos internos, e isso é compreensível, mas não é verdade.

"a Fisionomia hoje universalmente e justo de ser rejeitada como uma combinação de superstição e o racismo, disfarçados de ciência", escrevem os cientistas, na introdução do trabalho (физиогномия julga de traços do rosto, enquanto френологи tratavam da forma do crânio). Mas esta pseudociência entrou em colapso, porque seus defensores estavam se movendo na direção oposta. Sabem quem implicado em um "criminoso obras" ou "desvios sexuais" e, em seguida, identificaram quais características são comuns para tais pessoas.

Acontece que as pessoas mal conseguem lidar com este tipo de tarefas — vemos nas pessoas muito muito de si e fazemos instintivos conclusões. Mas isso não significa que o visível características e a fisiologia ou a psicologia não relacionados. Ninguém duvida que as máquinas podem comemorar nos seres humanos são as características que eles próprios não vêem, a partir de minúsculos traços químicos descontínuo, conchas e drogas até субтильных de padrões em сканах de ressonância magnética, que falam sobre inicia no câncer.

A Partir de artigos, que o sistema de visão por computador seleciona de forma idêntica субтильные padrões, como artificiais e naturais, mas principalmente os últimos, os estudiosos procuraram concentrar-se em traços que não podem ser modificados com facilidade. Isso suporta a hipótese de que a sexualidade é determinada biologicamente, é possível que, quando o impacto de diversos fatores sobre o desenvolvimento do feto, o que pode levar a pequenas diferenças fisiológicas e hormonais esquemas de atratividade. Observadas sistema de padrões são semelhantes aos previstos pela teoria предродовых de hormônios.

A partir Daqui, começam mais amplos sociais e debates filosóficos sobre o amor, da sexualidade, do determinismo e da inteligência de emoções e personalidades simples biológico caracterizado. Mas nós não vamos. É melhor lidar com outro problema grave, relativas à privacidade.

os Perigos e limitações

As Consequências de detecção automática de orientação de uma pessoa sobre fotos são enormes, antes de tudo e acima de tudo, porque colocam as pessoas de grupos LGBTQ sob ameaça em todo o mundo nos locais onde eles permanecem oprimida por uma minoria. O potencial de abuso de tal sistema é enorme e alguns podem, por direito, não concordar com a decisão de pesquisadores a respeito de sua criação e documentação.

Mas, da mesma forma, pode-se argumentar que é melhor ter a oportunidade de abri-la, para implementar contramedidas ou de qualquer outra forma permitir que as pessoas se preparar para isso. A diferença é que você pode escondê as informações que você coloca online; você não pode controlar quem vê seu rosto. É поднадзорное a sociedade em que vivemos, e oculto do total de vista é cada vez menos.

"Mesmo as melhores leis e tecnologia, visando à proteção da privacidade, em nossa opinião, estão condenados ao fracasso", escrevem os cientistas. "O ambiente digital é muito complicado para a polícia; os dados podem facilmente passar através da fronteira, roubar ou gravar sem o consentimento do usuário.

Este é um problema infinitamente complexa, mas demonstra uma surpreendente capacidade de inteligência artificial. As conseqüências de tais tecnologias, como de costume, é ambígua, mas muito interessante para o futuro da humanidade e de cada indivíduo. Os próprios cientistas não muito otimista avaliam o uso de tais tecnologias no futuro, mas são realistas em uma era em que a tecnologia, a partir do qual espera-se o plano de salvação, provavelmente vai jogar um vilão.

"Nós acreditamos que uma maior erosão da privacidade é inevitável, e que a segurança dos gays e outros меньшинеств não depende do direito à privacidade e do respeito aos direitos humanos e tolerância à sociedade e ao estado", escrevem eles. "Para que o mundo na era pós-privacidade era mais seguro e hospitaleiro, ele deve habitar o bem educados, radicalmente нетерпимые a intolerância".

A Tecnologia não vai nos salvar de nós mesmos.

materiais Techcrunch