Sie werden sofort verstehen, was vor Ihnen porno. Und verstehen Sie Computer?

Am Anfang des letzten Monats Tumblr angekündigt, dass es verbieten Pornos. Wenn eine neue Politik in Bezug auf die Inhalte in Kraft getreten, nach etwa zwei Wochen — 17. Dezember — ist es offensichtlich geworden, dass ein Problem. Nach der Bereitstellung des Systems für künstliche Intelligenz, das war перебанить die ganze Pornographie auf der Website, die Sie irrtümlich gekennzeichnet unschuldige posten in 455,4 Millionen Blogs auf der Website unter 168,2 Milliarden Beiträge: Vasen, Hexen, Fischen und so weiter.

für künstliche Intelligenz

Obwohl es ist unklar, was für eine automatische Filter verwendet Tumblr oder schaffen Sie Ihre eigenen — das Unternehmen antwortete nicht auf Anfragen zu diesem Thema — es ist offensichtlich, dass das soziale Netzwerk eingeklemmt zwischen der eigenen Politik und Technik. Z. B. inkonsequente Position der Website in Bezug auf «Frauen, die Brustwarzen» und die Künstlerische Nacktheit, zum Beispiel, führte zu einer kontextuellen Entscheidungen, die zeigen, dass auch Tumblr nicht weiß, was zu verbieten haben sich auf der Plattform. Als häufige Unternehmen bestimmen, was Sie als obszön?

Erstens, blockieren riskanter Inhalte schwierig, weil es zunächst schwierig festzustellen, was es ist. Die Definition von Obszönität — eine Bärenfalle, die mehr als hundert Jahre, noch im Jahr 1896 Vereinigten Staaten zum ersten mal nahmen die Gesetze, die Obszönität. 1964 in der Tat Джакобеллиса gegen Ohio bezüglich dessen, ob Ohio verhindern, dass der Film von Louis Malle, der oberste Gerichtshof gab der wohl bekannteste Definition der harten Pornografie von heute: «Ich werde heute versuchen, weiter zu definieren, diese Art von Material, das, wie ich es verstehe, wird erstmals in стенографическое Beschreibung; und vielleicht werde ich es nie schaffen machen, ist verständlich», sagte der Richter Potter Stewart. «Aber ich weiß, was es ist, wenn ich einen sehe, und der Film, verbunden mit diesem Fall es nicht ist».

Bei algorithmen des maschinellen Lernens das gleiche Problem. Genau dieses Problem versucht zu lösen Brian Делордж, CEO Picnix, die Firma, die verkauft die spezialisierte Technologie der künstlichen Intelligenz. Eines Ihrer Produkte — Iris — ist eine Anwendung auf der Client-Seite, die dient zur Erkennung von Pornographie, um «den Menschen helfen», sagt Делордж, «die nicht wollen Pornos in Ihrem Leben». Er stellt fest, dass eine Besondere Herausforderung für porno ist, dass es kann alles sein, eine Menge verschiedener Dinge und Bilder, die nicht pornografisch sind, haben ähnliche Elemente. Das Bild der Party am Strand kann nicht geblockt werden, weil es mehr Haut als auf den Bildern im Büro, und weil es auf der kippe. «Deshalb ist sehr schwer zu erziehen Algorithmus der Bilderkennung alles auf einmal», sagt Делордж. «Wenn die Definition wird schwierig für die Menschen, der Computer ist auch in Schwierigkeiten». Wenn die Menschen nicht einigen können, was porno ist und was nicht, ob der Computer überhaupt hoffen die Differenz?

Um zu lehren KI die Entdeckung des Pornos, das erste, was Sie tun müssen ist, verfüttert man ihm Pornos. Viel Pornographie. Wo kann ich es bekommen? Nun, das erste, was Menschen tun, das herunterladen einen Haufen видосов mit Pornhub, XVideos, sagt Dan shapiro, Mitgründer des Start-UPS Lemay.ai, der Filter schafft die KI für Ihre Kunden. «Es ist eines jener grauen Bereiche rechtlichen Charakters — zum Beispiel, wenn Sie lernen auf die Inhalte anderer Leute, ob es Ihnen gehört?».

Nachdem die Programmierer herunterladen Tonnen porno, Sie schneiden aus Video-Aufnahmen, die Pornographie nicht sind, um sicherzustellen, dass die verwendeten Frames führen nicht zu einer Sperrung der Hausierer Pizza. Plattform zahlen die Menschen, zum größten Teil außerhalb der USA, für die Kennzeichnung solcher Inhalte; die Arbeit schlecht bezahlt und langweilig, wie die Eingabe von «Captcha». Sie sind einfach sitzen und Feiern: das ist porno, das ist. Es muss ein wenig filtern, weil alle Pornos rein mit Beschriftung. Lernen geht besser, wenn Sie nicht nur Fotos, sondern große Stichprobe von Daten.

«Oft nicht einfach zu filtern porno, sondern eher Collateral Material», sagt shapiro. «Es scheint gefälschte profile mit Fotos und Telefon». Er meint Sex-Arbeiterinnen in der Suche der Kunden, aber es kann alles sein, nicht ganz legitim. «Es ist kein porno, aber diese Art von Sachen, die Sie nicht sehen wollen, auf der Plattform, ja?». Gute automatisierte Moderator ausgebildet ist, auf den Millionen — wenn nicht Dutzenden von Millionen — Beispiele von Inhalten, und so kann es sparen Sie eine Menge Mannstunden.

«verglichen werden Kann dies mit dem Unterschied zwischen einem Kind und einem Erwachsenen», sagt matt Цейлер, CEO und Gründer Clarifai, Startups aus dem Bereich der Computer Vision, die führt eine solche Filterung von Bildern für Firmenkunden. «Ich kann Ihnen genau sagen — vor ein paar Monaten hatten wir ein Kind. Sie wissen nichts über die Welt, für Sie ist alles neu». Muss das Kind zu zeigen (Algorithmus), eine Menge Dinge, dass er etwas gelernt. «Millionen und Millionen von Beispielen. Aber als Erwachsene — wenn wir haben so viel Kontext über die Welt und verstanden, wie es funktioniert — wir können lernen Sie etwas neues nur aus ein paar Beispiele». (Ja, erziehen KI filtern Inhalte für Erwachsene ist als Kind zeigen viele porno). Heute Firmen wie Clarifai schnell wachsen. Sie haben eine gute Datenbank über die Welt, Sie können unterscheiden Hunde von Katzen angezogen von der nackten. Das Unternehmen Цейлера nutzt seine Modelle für das lernen von neuen algorithmen für Ihre Kunden — da das ursprüngliche Modell behandelte viele Daten, persönliche Versionen bedeuten nur neue datasets zu arbeiten.

Dennoch Algorithmus schwierigalles richtig zu machen. Mit Inhalten, die offensichtlich pornografische, er ist gut zurecht; aber das Kategorisierungsmodul kann nicht korrekt markiert die Ankündigung der Unterwäsche als verboten, weil auf dem Bild mehr Haut, als, sagen wir, im Büro. (Mit Bikini und Unterwäsche, laut Цейлера, sehr schwierig). Dies bedeutet, dass die Menschen, die sich mit der Kennzeichnung, sollten sich auf diesen extremen Fällen in Ihrer Arbeit, vorrangig die Tatsache, dass es schwierig ist, Modelle zu klassifizieren.

Und was ist am schwersten?

«Anime-Pornos», sagt Цейлер. «Die erste Version unseres Detektors Nacktheit nicht nutzte für die Ausbildung der Zeichentrick-Pornographie». Viele Male KI плошал, weil nicht erkannte Hentai. «Die Arbeit an diesem für den Kunden, wir haben einen Haufen Daten im Modell deutlich verbessert und die Genauigkeit der Filter animierte Bilder, unter Beibehaltung der Genauigkeit mit realen Fotos», sagt Цейлер.

Technologie, die lehren erschnüffeln porno, verwendet werden kann und auf andere Dinge. Technologien Grundlage dieses Systems, erstaunlich flexibel. Es ist mehr als ein Anime Titten. Jigsaw-Alphabet von, zum Beispiel, ist weit verbreitet als automatische Moderators Kommentare in der Zeitung. Diese Software funktioniert ähnlich wie классификаторам Bilder, mit Ausnahme der Tatsache, dass sortiert nach Giftigkeit und nicht nach Nacktheit. (Giftigkeit der Text in den Kommentaren bestimmen, ist so schwierig, wie Pornographie auf den Bildern). Facebook nutzt eine ähnliche automatische Filterung für die Ermittlung von suizidalen Nachrichten und Inhalte im Zusammenhang mit Terrorismus, und er versucht, zu verwenden diese Technologie für die Erkennung von gefälschten Nachrichten auf der robusten Plattform.

All das hängt immer noch menschliche Aufsicht; wir besser umgehen mit Mehrdeutigkeit und Kontext mehrdeutig. Цейлер sagt, dass er nicht denkt, dass sein Produkt beraubt jemanden der Arbeit. Er löst das Problem der Skalierbarkeit des Internets. Die Menschen werden immer noch trainieren KI, ordnend und Kennzeichnende Inhalte so, dass die KI konnte es unterscheiden.

Das Ist die Zukunft Moderation: maßgeschneiderte, schlüsselfertige Lösungen, die von Unternehmen, die mache das ganze Geschäft auf das lernen immer mehr vollkommenen Klassierer einer größeren Anzahl an Daten. Genauso wie Stripe und Square bieten fertige payment-Lösungen für Unternehmen, die nicht wollen, behandeln Sie sich selbst, Startups wie Clarifai, Picnix und Lemay.ai wird die Durchführung der Online-Moderation.

Dan shapiro von Lemay.ai voller Hoffnung. «Wie bei jeder anderen Technologie, ist Sie immer noch in dem Prozess der Erfindung. Also ich glaube nicht, dass wir abtreten im Falle des Scheiterns». Aber ob die KI jemals autonom agieren ohne Aufsicht des Menschen? Es ist unklar. «Es gibt keinen kleinen Mann in einer Dose, die filtert jedes Bild», sagt er. «Ihre Daten von überall her, um an Ihnen zu trainieren Algorithmus».

Цейлер, andererseits, glaubt, dass künstliche Intelligenz eines Tages wird alles selbst moderieren. Schließlich, die Anzahl der Eingriffe seitens der Menschen wird auf null reduziert, entweder zu leichten Anstrengungen. Allmählich Kraft eines Menschen, der sich in der Tatsache, dass die KI jetzt nicht tun kann, wie die Argumentation von hohem Niveau, Selbstbewusstsein — alles, was wir Menschen haben.

Erkennung von Pornografie ist ein Teil davon. Das Kennzeichen ist eine relativ triviale Aufgabe für den Menschen, aber viel schwieriger zu erziehen Algorithmus zu erkennen, die Nuancen. Schwellwerte, wenn der Filter markiert das Bild als Pornographische Pornographische oder nicht, ist auch eine schwierige Aufgabe, teilweise Mathe.

Künstliche Intelligenz ist eine unvollkommene Spiegel dafür, wie wir die Welt sehen, genauso wie Pornografie ist ein Spiegelbild dessen, was zwischen den Menschen geschieht, wenn Sie allein. In ihm gibt es eine Wahrheit, aber das vollständige Bild — Nein.

Vergessen Sie Nicht zu abonnieren .