Vous savez immédiatement que vous porno. Et comprenez-ordinateur?

Au début du mois dernier, Tumblr a annoncé que bannir le porno. Quand la nouvelle politique en ce qui concerne le contenu de l'entrée en vigueur, environ deux semaines, le 17 décembre, il est évident que sera un problème. Après le déploiement d'un système d'intelligence artificielle, qui devait перебанить l'ensemble de la pornographie sur le site, elle est étiqueté à tort des innocents postes à 455,4 millions de blogs sur un site parmi les 168,2 milliards de postes: des vases, des sorcières, des poissons et tout ce genre de choses.

pour l'intelligence artificielle

Bien qu'incompréhensible, quel réglage de filtre utilisé Tumblr ou a créé sa propre société n'a pas répondu aux demandes sur ce sujet, il est évident que le réseau social est coincé entre les politiques et les technologies. Par exemple, непоследовательная la position d'un site sur les femmes, témoignant de la tétine» et de l'art de la nudité, par exemple, a conduit à contextuels des solutions qui montrent que, même Tumblr ne sait pas que l'interdiction de lui-même sur la plate-forme. Comment fréquente à une entreprise de déterminer qu'elle estime obscène?

Tout d'abord, le risque de bloquer le contenu est difficile, parce que d'abord il est difficile de déterminer ce que c'est. La définition de l'obscénité — piéger l'ours, que plus de cent ans, en 1896, les Etats-Unis pour la première fois pris, les lois sur l'obscénité. En 1964 dans l'affaire Джакобеллиса contre l'Ohio sur, peut-Ohio interdire la projection du film de Louis Malle, la cour Suprême a donné, sans doute, le plus célèbre définition de la pornographie dure aujourd'hui: «Je ne vais aujourd'hui essayer de continuer à donner une définition de ce type de matière, qui, comme je le comprends, est inclus dans le стенографическое description; et, peut-être, je n'ai jamais réussir à faire c'est raisonnable», a déclaré le juge Potter Stewart. «Mais je sais ce que c'est, quand je le vois, et ce film lié à cette affaire, ce n'est pas».

Les algorithmes d'apprentissage automatique ont le même problème. C'est ce problème d'essayer de résoudre Brian Делордж, PRÉSIDENT de Picnix, une entreprise qui vend spécialisée de la technologie de l'intelligence artificielle. Un de leurs produits — Iris est une application côté client, qui sert pour la détection de la pornographie, pour «aider les gens», comme le dit Делордж, «qui ne veulent pas de porno dans sa vie». Il note que d'un problème de porno est qu'il peut être n'importe quoi, un tas de choses différentes — et des images à caractère pornographique ne sont pas, peuvent avoir des éléments similaires. L'image de la fête sur la plage ne peut pas être bloquée ce n'est pas parce que plus de la peau que sur les photos dans le bureau, mais parce qu'il est sur le point. «Voilà pourquoi il est très difficile de former un algorithme de reconnaissance d'images tout à la fois», dit Делордж. «Lorsque la définition est difficile pour les personnes, l'ordinateur est également confronté à des difficultés». Si les gens ne peuvent pas s'entendre sur le fait qu'il y a du porno, et ce n'est pas si l'ordinateur est généralement espérer connaître la différence?

Pour enseigner l'IA détecter le porno, la première chose que vous devez faire est de se nourrir de lui porno. Beaucoup la pornographie. Où le prendre? Eh bien, la première chose que font les gens, c'est de télécharger un tas de видосов avec Pornhub, XVideos, dit Dan Shapiro, co-fondateur de la start-up est de Lemay.ai, qui crée des filtres de l'IA pour ses clients. «C'est une de ces zones grises de la nature juridique, par exemple, si vous vous entraînez sur le contenu d'autres personnes, appartient-il?».

Après que les programmeurs de télécharger des tonnes de films pornos, ils découpent des séquences vidéo, de la pornographie ne sont pas, pour s'assurer que les cadres ne désactive les colporteurs de la pizza. La plate-forme paient les gens, pour la plupart, en dehors des états-UNIS, pour le marquage d'un tel contenu; le travail низкооплачиваемая et ennuyeux, comme taper «captcha». Ils ont juste assis et noté: c'est le porno, c'est ça. Filtrer représentent un peu, parce que tout le porno sort avec le marquage. La formation va mieux, si vous n'utilisez pas simplement des photos, et un grand échantillon de données.

«Souvent, n'est pas simplement filtrer le porno, mais plutôt la documentation associée», dit Shapiro. «Le genre de faux questionnaires avec la photo de la fille et du téléphone. Il a à l'esprit les travailleuses du sexe dans la recherche de clients, mais cela peut être n'importe quoi, pas tout à fait légitime. «Ce n'est pas un porno, mais ce genre de choses que vous ne voulez pas regarder sur sa plate-forme, hein?». Bon automatisé modérateur est formé sur des millions, si ce n'est des dizaines de millions — exemples de contenu, et donc peut vous faire économiser des tonnes d'heures-homme.

«on Peut comparer cela à la différence entre un enfant et un adulte», a déclaré Matt Цейлер, pdg et fondateur de Clarifai, start-up du domaine de la vision par ordinateur, qui exerçait le filtrage des images pour les clients de l'entreprise. «Je peux vous dire exactement, il y a quelques mois, nous avons eu un enfant. Ils ne savent rien sur le monde, pour eux tout est nouveau». Nous devons montrer à l'enfant (l'algorithme) tous pour il quelque chose retiré. «Des millions et des millions d'exemples. Mais en tant qu'adultes — quand nous avons créé beaucoup de contexte sur le monde et de comprendre comment il fonctionne, nous pouvons apprendre quelque chose de nouveau tout à partir d'une paire d'exemples». (Oui, pour former l'IA filtrer le contenu pour adulte est de montrer à l'enfant beaucoup de porno). Aujourd'hui, les entreprises comme Clarifai se développent rapidement. Ils ont une bonne base de données sur le monde, ils peuvent se distinguer de chiens, de chats, vêtus de nus. La société Цейлера utilise son modèle pour l'apprentissage de nouveaux algorithmes pour vos clients, car le modèle d'origine a beaucoup de données, personnelles version exigeront seulement de nouveaux ensembles de données pour fonctionner.

Cependant, l'algorithme est difficiletout faire correctement. Avec le contenu, qui est évidemment l'exploitation à caractère pornographique, il fait bien; mais le classificateur peut ne pas marquer l'annonce de lingerie comme d'interdit, parce que l'image en plus de la peau, que, par exemple, dans le bureau. (Avec un bikini et lingerie, selon Цейлера, très difficile). Cela signifie que les personnes impliquées dans l'étiquetage, doit se concentrer sur ces cas extrêmes dans leur travail, en donnant la priorité à ce qu'il est difficile de classer les modèles.

Mais que le plus dur?

«Anime-porno», dit Цейлер. «La première version de notre détecteur de la nudité n'est pas utilisé pour la formation мультяшную de la pornographie». Plusieurs fois, l'IA плошал, parce que ne reconnaît hentai. «Après avoir travaillé dessus pour le client, nous avons mis en place un tas de ses données dans le modèle et amélioré de façon significative la précision du filtre de dessins d'images, tout en conservant la précision du réel», dit Цейлер.

La Technologie, qui a enseigné à flairer le porno, peut être utilisé sur d'autres choses. La technologie sous-jacente de ce système est étonnamment souple. C'est plus que анимешные seins. Puzzle de l'Alphabet, par exemple, est largement utilisé comme auto-modérateur des commentaires dans le journal. Ce logiciel fonctionne de manière similaire à классификаторам images, sauf que le trie de toxicité, pas de nudité. (La toxicité dans le texte des commentaires de déterminer aussi difficile, comme de la pornographie sur les images). Facebook utilise une semblable filtrage automatique pour détecter des messages et du contenu associé à le terrorisme, et il a essayé d'utiliser cette technologie pour la détection фейковых nouvelles sur son immense plate-forme.

Tout cela dépend toujours de la surveillance humaine; nous mieux faire face à l'ambiguïté et ambiguë contexte. Цейлер dit qu'il ne pense que son produit est dépouillé de quelqu'un pour le travail. Il résout le problème d'échelle de l'Internet. Les gens s'instruire de l'IA, le tri et le contenu pour que l'IA puisse le distinguer.

Telle est l'avenir de la modération: les solutions, les services de l'entreprise, qui fais toute votre entreprise sur la formation de plus en plus sophistiqués des classificateurs davantage de données. Exactement la même que la Raie et le Square offrent des solutions de paiement pour les entreprises qui ne veulent pas traiter vous-même, des start-ups comme Clarifai, Picnix et Lemay.ai poursuivront en ligne de la modération.

Dan Shapiro de Lemay.ai plein d'espoir. «Comme pour toute technologie, il est encore dans le processus de l'invention. Donc je ne pense pas que nous perdons en cas d'échec». Mais pourra-t-IA jamais agir seul, sans la surveillance d'une personne? Il est incompréhensible. «Il n'y a aucun petit bonhomme, dans табакерке, qui filtre chaque photo», dit-il. «Besoin de recevoir les données de tous les côtés, pour former l'algorithme.

Цейлер, d'autre part, pense qu'un jour, l'intelligence artificielle sera modérer tout seul. En fin de compte, le nombre d'interventions de la part des gens se réduit à zéro, ou de petits efforts. Progressivement, les efforts des hommes se transforment en ce que l'IA est en train de faire ne peut, comme le raisonnement de haut niveau, la conscience de soi et tout ce qui est chez les gens.

La Reconnaissance de la pornographie est une partie de cela. L'identification est relativement une tâche triviale pour les gens, mais beaucoup plus difficile de former un algorithme de reconnaître les nuances. La définition du seuil, lorsque le filtre de la marque, l'image que l'exploitation à caractère pornographique ou non pornographique, est également une tâche difficile, en partie mathématique.

L'intelligence Artificielle est imparfaite d'un miroir de ce que nous voyons le monde, exactement comme la pornographie, c'est le reflet de ce qui se passe entre les gens, quand ils sont seuls. À elle il ya une part de vérité, mais une image complète — non.

N'oubliez pas de vous inscrire .