Ustedes saben inmediatamente que antes de que usted porno. Y ¿entenderá el equipo?

A principios del mes pasado Tumblr anunció que iba a banear porno. Cuando la nueva política en relación con el contenido entró en vigor, aproximadamente dos semanas — 17 de diciembre—, es evidente que hay problemas. Después de la implementación de un sistema de inteligencia artificial, que debía перебанить toda la pornografía en el sitio web, erróneamente marcado inocentes puestos en 455,4 millones de blogs en el sitio entre 168,2 millones de puestos: jarrones, las brujas, los peces y todo lo demás.

para la inteligencia artificial

Aunque no está claro qué tipo de filtro automático utilizado Tumblr o creaba su propio — la empresa no respondió a las consultas sobre este tema — es evidente que la red social ha atascado entre su política y la tecnología. Por ejemplo, непоследовательная la posición de un sitio en contra "de las mujeres, que muestran los pezones" y artística de desnudos, por ejemplo, ha llevado a la контекстуальным las decisiones que demuestran que incluso Tumblr no sabe que prohibir en la plataforma. Como el común de la compañía de determinar lo que se considera obsceno?

En primer lugar, bloquear arriesgado contenido es difícil, ya que en un principio es difícil definir lo que es. La definición de obscenidad — bajista trampa, de la cual más de cien años, todavía en 1896 los estados unidos, por primera vez, se han promulgado leyes que regulan la obscenidad. En 1964, en la Джакобеллиса en contra de ohio sobre si puede ohio prohibir la proyección de la película de louis malle, el tribunal supremo ha dado, probablemente, la más famosa definición rígida de la pornografía en la actualidad: "no voy hoy a tratar y después de dar una definición de este tipo de material, que, tal como yo lo entiendo, se incluye en la стенографическое descripción; y, tal vez, nunca me puedan hacerlo coherente", dijo el juez potter stewart. "Pero yo sé lo que es, cuando la veo, y la película, relacionado con este asunto, esto no es".

Los algoritmos de aprendizaje de máquina es el mismo problema. Este es el problema que trata de resolver brian Делордж, CEO de Picnix, una empresa que vende especializada en el área de la tecnología de la inteligencia artificial. Uno de sus productos — Iris — es una aplicación del lado del cliente, que sirve para la detección de la pornografía, a fin de "ayudar a la gente", como dice Делордж, "que no quieren porno en su vida". Se observa que un problema porno en el sentido de que no puede ser cualquier cosa, un montón de cosas diferentes — y las imágenes que pornográficos no son, pueden tener elementos similares. La imagen de la fiesta en la playa puede ser bloqueada, no porque en él más de la piel, que en la foto en la oficina, porque es en la cara. "Es por eso que es muy difícil enseñar el algoritmo de reconocimiento de imágenes todo de inmediato", dice Делордж. "Cuando la definición se hace difícil para la gente, el equipo también se enfrenta con dificultades". Si las personas no pueden ponerse de acuerdo acerca de lo que es el porno, y lo que no, si el equipo en general la esperanza de ver la diferencia?

Para enseñar la ia detectar porno, lo primero que tienes que hacer es comer de él porno. Mucha pornografía. Donde puedo conseguirlo? Bueno, lo primero que la gente hace es descargar un montón de видосов con Pornhub, XVideos, dice dan shapiro, cofundador de nuevas empresas Lemay.ai, que crea los filtros de la ia para sus clientes. "Esta es una de las áreas grises de carácter jurídico — por ejemplo, si está estudiando en el contenido de otras personas, ¿es él?".

Después de que los programadores descargan toneladas de porno, se cortan de fotogramas de vídeo, que la pornografía no son, para asegurarse de que los cuadros no darán lugar al bloqueo de parte de los vendedores ambulantes de la pizza. La plataforma le pagan a la gente, en su mayor parte, fuera de los estados unidos, por la marca de dicho contenido; el trabajo mal pago y aburrido, como si escribir "captcha". Se sientan y toman nota: es porno, es esto. Filtrar cae un poco, porque todo el porno que sale con la etiqueta. La formación va mejor, si no simplemente fotos, y la ampliación de la muestra de datos.

"a Menudo no simplemente filtrar porno, sino más bien complementario de material", dice shapiro. "Como falsos de los cuestionarios con la fotografía de la niña y el teléfono". Tiene en cuenta las trabajadoras sexuales en la búsqueda de clientes, pero esto puede ser cualquier cosa, no es muy legal. "Esto no es porno, pero este tipo de cosas que usted no desea ver en su plataforma, sí?". Bueno automatizado moderador entrenado en millones — si no decenas de millones — ejemplos de contenidos y, por tanto, puede ahorrar un montón de horas-hombre.

"se Puede comparar esto con la diferencia entre el niño y el adulto", dice matt Цейлер, ceo y fundador de Clarifai, nuevas empresas desde el área de visión por computador, que ejerce esa filtrado de imágenes para los clientes corporativos. "Puedo decirle exactamente — hace un par de meses teníamos un bebé. Ellos no saben nada sobre el mundo, para ellos todo es nuevo". Tienen que mostrar al niño (algoritmo) mucho de todo, para él algo уяснил. "Millones y millones de ejemplos. Pero como adultos — cuando hemos creado un montón de contexto sobre el mundo y la comprensión de cómo funciona — podemos aprender algo nuevo a partir de un par de ejemplos". (Sí, entrenar a la ia de filtrar el contenido para adultos es como ver a un niño un montón de porno). En la actualidad, compañías como Clarifai crecen rápidamente. Tenían una buena base de datos sobre el mundo, se pueden distinguir los perros de los gatos, vestidas de al desnudo. La empresa Цейлера utiliza sus modelos para el aprendizaje de nuevos algoritmos para sus clientes ya que el modelo original ha afectado a una gran cantidad de datos personales de la versión requerirán únicamente a los nuevos conjuntos de datos para el trabajo.

Sin Embargo, el algoritmo es difícilhacer todo correctamente. Con el contenido, que es evidente pornográfico, lo hace bien; pero el categorizador no puede marcar el anuncio de ropa interior como prohibido, ya que la foto que más de la piel, que, por ejemplo, en la oficina. (Con un bikini y ropa interior, según Цейлера, muy difícil). Esto significa que las personas que se ocupan de la etiqueta, debe centrarse en estos casos extremos en su trabajo, dando prioridad a lo que es difícil de clasificar los modelos.

Y lo que es más difícil?

"Anime-porno", dice Цейлер. "La primera versión de nuestro detector de desnudez no se ha utilizado para el aprendizaje de dibujos animados la pornografía". Muchas veces la ia плошал, porque no reconocía el hentai. "Después de haber trabajado sobre esto para el cliente, hemos implementado un montón de datos en el modelo y han mejorado considerablemente la precisión del filtro de dibujos animados de las imágenes, manteniendo la precisión de las fotografías", dice Цейлер.

La Tecnología, que научена e investigar porno, puede utilizarse en otras cosas. La tecnología, que sustentan este sistema, extremadamente flexibles. Es más que анимешные tetas. Jigsaw de Alphabet, por ejemplo, se utiliza ampliamente como automática moderador de los comentarios en el periódico. Este software funciona de manera similar классификаторам imágenes, excepto que ordena sobre la toxicidad, y no por la desnudez. (Toxicidad en los comentarios de determinar tan difícil como la pornografía en las fotos). Facebook utiliza dicha automática de los filtros para la detección de suicidio de los mensajes y el contenido relacionado con el terrorismo, y él trató de utilizar esta tecnología para la detección de фейковых de noticias en su gran plataforma.

Todo esto sigue dependiendo de lo humano y de supervisión; podemos manejar la ambigüedad y ambiguo contexto. Цейлер dice que no piensa que su producto ha privado a alguien del trabajo. Se resuelve el problema de la escala de internet. La gente se de enseñar a la ia, clasificando y que marca el contenido, para ia podía distinguir.

éste Es el futuro de la moderación: individual, soluciones proporcionadas por la empresa, que hago todo su negocio en la formación de los mejores clasificadores mayor cantidad de datos. De la misma manera, como Stripe y Square ofrecen listas soluciones de pago para empresas que no quieren manejar sus propias startups como Clarifai, Picnix y Lemay.ai llevarán a cabo en línea de la moderación.

Dan shapiro de la Lemay.ai lleno de esperanza. "Como ocurre con cualquier otra tecnología que todavía está en el proceso de la invención. Por lo tanto, no creo que nos уступим en caso de fracaso". Pero si ai algún día actuar en forma autónoma, sin la supervisión de un hombre? Es incomprensible. "No hay un enano en табакерке, que filtra cada una de las imágenes", dice. "Es necesario obtener los datos de todas partes, para entrenar el algoritmo".

Цейлер, por otro lado, considera que una vez que la inteligencia artificial será moderar todo por sí mismos. Finalmente, el número de intervenciones por parte de la gente va a consistir en cero, o a pequeños esfuerzos. Poco a poco, los esfuerzos del hombre para que se conviertan en lo que ai ahora no puede hacer, como el razonamiento de alto nivel, la conciencia que tienen las personas.

El Reconocimiento de la pornografía es parte de ello. La identificación es relativamente trivial para las personas, pero es mucho más difícil de entrenar el algoritmo de reconocer matices. La determinación del umbral, cuando el filtro de la marca a la imagen como pornográfico o no pornográfico, también es una tarea compleja, en parte matemática.

La inteligencia Artificial es imperfecto espejo de cómo vemos el mundo, de la misma manera, como la pornografía es un reflejo de lo que ocurre entre las personas, cuando están a solas. En él hay una parte de verdad, pero completa de la obra — no.

No te olvides de suscribirte a .