Oscuros los datos: la inteligencia artificial aprende a identificar a los homosexuales de la foto

Empezamos a confiar en el sistema de enseñanza en todo, desde la creación de listas de reproducción hasta el control de los coches, pero como cualquier herramienta, pueden ser utilizados en el peligroso e inmoral fin, y de forma accidental. Hoy en día, la ilustración de este hecho — el nuevo artículo de los investigadores de la universidad de standford, que han creado un sistema de aprendizaje automático, que, en su opinión, se puede decir de varias foto... maricón en frente de usted. O no.

Obviamente, este estudio sorprende y desalentador en el mismo grado. Además de que los grupos vulnerables de la gente una vez más serán objeto de систематизированному la invasión en la vida privada e íntima de los temas, todo esto afecta directamente a эгалитарное la idea de que no podemos (ni debemos) juzgar a las personas por su apariencia, y no tenemos derecho a adivinar la orientación sexual de uno o dos imágenes. Absurdo? La precisión del sistema, sobre la que se informa en el trabajo, sin embargo, no deja lugar a dudas: ahora no sólo es posible, sino que se hace.

El Sistema captura las emanaciones de los más delgados de lo que son capaces de воспрнимать la gente ve las sugerencias, sobre la que no sabía que tenía. Y demuestra, como debe ser privado, la integridad personal o la vida en una época de universal de la visión artificial puede ser simplemente destruido.

Antes de pasar a la discusión del propio sistema, es necesario aclarar que el estudio se realizó con buenas intenciones. Cuestiones, por supuesto, no perder el número. Lo más relevante, quizás, de acero observaciones michal Косински y Илун wong en cuanto a por qué el hecho de que vio la luz:

"estábamos muy preocupados por estos resultados y pasamos un montón de tiempo para hacerlos públicos. No queríamos trabajar a la gente sin riesgos a que los mismos advirtió. La capacidad de controlar cuando y a revelar su orientación sexual, es fundamental no sólo para el bienestar de la persona, sino también para su seguridad.

"Nos dimos cuenta de que los legisladores y la comunidad ЛГБТК deben ser conscientes de los riesgos que enfrentan. No hemos creado una herramienta de intervención en la vida privada, más bien han demostrado que la simple y ampliamente utilizado métodos representan un grave peligro para su vida personal".

Definitivamente esta es sólo una de las muchas sistemáticos intentos de extraer información sensible, tal como la sexualidad, el estado emocional o de las indicaciones médicas. Pero en este caso, el más grave, por varias razones.

Ver lo que no puede (y no debe)

En un artículo publicado en el Journal of Personality and Social Psychology, se describe en detalle la amplitud de un enfoque basado en el aprendizaje por refuerzo, cuyo objetivo determinar la posibilidad de identificar a las personas como homosexuales o no en sus rostros. Nota: el trabajo todavía en forma de borrador.

Utilizando la base de datos con las imágenes de las personas (que han sido tomados de los sitios web de citas con datos abiertos), los científicos han recogido 35 326 de imágenes 14 776 personas, entre las que igualmente se presentaron los hombres y mujeres homosexuales. Sus rasgos eran extraídos y pretende: de la forma de la nariz y las cejas antes de la vegetación en la cara y la expresión de la cara.

Нейросеть de aprendizaje profundo скушала todas estas características notar que por lo general se asocian con una orientación sexual. Los científicos no "засеивали" sus prejuicios sobre cómo es usualmente la gente normal o con orientación homosexual; el sistema sólo distribuyó los rasgos y соотнесла sus preferencias sexuales.

A estos patrones se puede acudir para permitir que el equipo para adivinar el sexo de preferencia de la persona — y resultó que el sistema de ia, es mucho mejor hacer frente a esta tarea, que la gente. El algoritmo fue capaz de cierto determinar la orientación de 91% aparecen en él de los hombres y el 83% de las mujeres, dos a la vez. Las personas que han proporcionado las mismas imágenes, que estaban en lo cierto en el 61% y el 54% de los casos, respectivamente, es decir, lanzar una moneda emitió sería el mismo resultado.

Las Variaciones entre los cuatro grupos se describen en el segundo artículo; además de los evidentes las diferencias de comportamiento, como ухаживаний de un grupo o similar, el maquillaje, la tendencia general fue la presencia de "mujeres" el diablo de los gays y "masculinas" el diablo a las lesbianas.

En la imagen se muestra donde se encontraban los rasgos que indican la orientación sexual

Cabe mencionar que dicha precisión del sistema se llegó en perfectas condiciones de elegir entre dos personas, uno de los cuales гомосексуален. Cuando el sistema se ha evaluado a un grupo de 1000 personas, de las cuales sólo el 7% pertenecían a un homosexual a la gente (más de la representatividad real de la proporción de la población), los resultados no fueron los mejores. En el mejor de los casos un tamaño de muestra de 10 personas ha sido reconocida con 90% de precisión.

También Existe la real posibilidad de la existencia de sesgo en el sistema de datos: en primer lugar, se incluyeron sólo los jóvenes estadounidenses blancos tipo de hombre/mujer y homosexual/normal.

"a Pesar de nuestros intentos de obtener más variedad de la muestra, nos han limitado al estudio de los blancos de los participantes de los estados unidos. Debido a que los prejuicios contra los homosexuales y el uso en línea sitios de citas en línea se distribuyen de forma desigual entre los diferentes grupos étnicos, no hemos podido encontrar el número suficiente de небелых homosexuales de los participantes".

Aunque los científicos suponen que otros grupos étnicos, probablemente serán similares patrones faciales y el sistema también será eficaz para determinarlos, en realidad, es necesario que confirme, en lugar de asumir.

Tambiénse puede afirmar que el clasificador recogía los rasgos específicos de la gente en los sitios de citas, no sin la ayuda de un mecanismo de autoselección — por ejemplo, los hombres estadounidenses con la habitual orientación sexual pueden deliberadamente evitar el aspecto que mostraría que pueden ser homosexuales.

Por Supuesto, en el real de la eficacia de este sistema razonablemente dudar, ya que aprende de ella en base a la cantidad limitada de datos y en su mayor parte es eficaz en los ejemplos de este grupo. Más investigación se debe. Sin embargo, parece suficiente para suponer que este sistema operativo no es posible.

la verdad

Muchos afirman que esta tecnología no es mejor "френологии 2.0", la falsa relación sobredimensionados características físicas con los complejos procesos internos, y esto es comprensible, pero no es cierto.

"Fisonomía hoy en día en todas partes y justo rechazado como una combinación de la superstición y el racismo, camuflados bajo la ciencia", escriben los científicos en la introducción al trabajo (физиогномия juzga por las características de la persona, mientras que френологи se ocupaban de la forma del cráneo). Pero esta paraciencia sufrió un colapso debido a que sus partidarios se movían en la dirección opuesta. Resolvieron, que es envuelto en "sus asuntos" o "perversiones sexuales" y, a continuación, determinar qué características son comunes para estas personas.

Resulta que la gente simplemente no pueden con este tipo de tareas — vemos en las personas demasiado a sí mismo y hacemos instintivas conclusiones. Pero esto no significa que visibles los rasgos y la fisiología o la psicología no están relacionados. Nadie duda de que las máquinas pueden marcar en la gente de los rasgos que ellos mismos no ven, de pequeñas trazas de productos químicos de los proyectiles explosivos y drogas hasta el субтильных patrones en сканах de resonancia magnética, que hablan de que comienza el cáncer.

El artículo se deduce que el sistema de visión por computador selecciona igualmente субтильные patrones, tanto artificiales como naturales, pero en primer lugar, los últimos; los científicos trataban de concentrarse en los rasgos que no se pueden cambiar con facilidad. Esto apoya la hipótesis de que la sexualidad se define biológicamente, es posible impacto de los diferentes factores en el desarrollo del feto, que pueden conducir a poco las diferencias fisiológicas y hormonales esquemas de atracción. Observados en el sistema de patrones son similares a las predichas por la teoría de предродовых hormonas.

Desde Aquí comienzan sociales más amplios y filosóficas del debate sobre el amor, la sexualidad, el determinismo y la inteligencia de las emociones y de las personalidades a simple las características biológicas. Pero nosotros no vamos a. Lo mejor de tocar en el otro grave problema, relativa a la privacidad.

los Peligros y limitaciones de

Los Efectos de la determinación automática de la orientación de la persona de varias fotos son enormes, sobre todo y más importante, porque ponen a las personas de ЛГБТК en peligro en todo el mundo en aquellos lugares donde se quedan los oprimidos de la minoría. El potencial de uso indebido de este sistema es enorme y algunos de derecho pueden no estar de acuerdo con la decisión de los investigadores sobre su creación y la documentación.

Pero de la misma manera, se puede afirmar que es mejor tener la posibilidad de abrirla para implementar las contramedidas o de otra manera permitir a la gente a prepararse para ella. La diferencia es que se puede ocultar la información que usted publica en línea; usted no puede controlar quién ve tu cara. Es поднадзорное una sociedad en la que vivimos, y escondido del total de la visión cada vez quedan menos.

"Incluso los mejores leyes y tecnologías destinadas a la protección de la privacidad, en nuestra opinión, están condenados al fracaso", escriben los científicos. "El entorno digital es muy difícil para la policía; los datos se pueden fácilmente pasar a través de la frontera, robar o grabar sin el consentimiento de los usuarios".

Este problema infinitamente compleja, pero demuestra las capacidades increíbles de la inteligencia artificial. El impacto de estas tecnologías, como de costumbre, no son concluyentes, pero muy interesantes para el futuro de la humanidad y del individuo. Los propios científicos no es especialmente optimista sobre el uso de esas tecnologías en el futuro, pero son realistas en la época de la tecnología, de la que se espera que el plan de salvación, es probable que juegue el villano.

"creemos que la mayor erosión de la privacidad es inevitable, y la seguridad de los hombres gay y otros меньшинеств no depende del derecho a la intimidad y del respeto de los derechos humanos y la tolerancia de la sociedad y el estado", escriben ellos. "Para el mundo en la era de la post-privacidad era más seguro y hospitalario, debe habitar bien educados, radicalmente нетерпимые a la intolerancia".

La Tecnología no nos salva de nosotros mismos.

materiales Techcrunch