आप तुरंत पता चल जाएगा कि आप अश्लील. और आप समझ जाएगा?

की शुरुआत में पिछले महीने, Tumblr घोषणा की है कि यह प्रतिबंध होगा । जब एक नई नीति के संबंध में सामग्री के बल में प्रवेश के बाद के बारे में दो सप्ताह — 17 दिसंबर — यह स्पष्ट हो गया है कि वहाँ समस्या हो जाएगी. परिनियोजित करने के बाद कृत्रिम खुफिया प्रणाली है, जो था perebanit सभी पोर्न वेबसाइट पर, यह गलती से झंडी दिखाकर रवाना किया मासूम पदों में 455,4 मिलियन ब्लॉगों पर एक वेबसाइट के बीच 168,2 अरब पोस्ट: vases, चुड़ैलों, मछली, और इतने पर ।

कृत्रिम बुद्धि

हालांकि यह स्पष्ट नहीं है कि क्या स्वत: फ़िल्टर किया जाता Tumblr या बनाया है, अपनी खुद की कंपनी को जवाब नहीं दिया है करने के लिए पूछताछ में इस विषय पर — यह स्पष्ट है कि सामाजिक नेटवर्क के बीच फंस गया था अपनी खुद की नीति और प्रौद्योगिकी. उदाहरण के लिए, असंगत साइट की स्थिति के संबंध में "महिलाओं के निपल्स दिखा" और कलात्मक नग्न, उदाहरण के लिए, नेतृत्व करने के लिए प्रासंगिक समाधान है, जो प्रदर्शित करता है कि यहां तक कि Tumblr पता नहीं है क्या करने के लिए पर प्रतिबंध मंच है । के रूप में कंपनी का हिस्सा निर्धारित करने के लिए क्या यह समझता है, अश्लील है?

पहली, ब्लॉक करने के लिए जोखिम भरा सामग्री मुश्किल है, क्योंकि शुरू में यह मुश्किल है निर्धारित करने के लिए कि यह क्या है. की परिभाषा अश्लीलता — एक भालू जाल है, जो एक सौ से अधिक साल, 1896 में संयुक्त राज्य अमेरिका के पहले कानून पारित कर दिया विनियमन अश्लीलता है । में 1964 में Jacobellis के खिलाफ ओहियो के बारे में है कि क्या एक ओहियो प्रतिबंध लगाने के लिए स्क्रीनिंग के लुई Malle, सुप्रीम कोर्ट ने जारी की शायद सबसे प्रसिद्ध परिभाषा के अश्लील साहित्य आज: "मैं आज नहीं प्रयास आगे परिभाषित करने के लिए इस तरह की सामग्री है, जो, के रूप में मैं इसे समझ, जाएगा में शामिल आशुलिपि विवरण, और शायद मैं कर सकता था कभी नहीं सफल होने में बुद्धिमानी से यह करने के लिए," जज ने कहा कि स्टीवर्ट. "लेकिन मुझे पता है कि यह क्या है जब आप फिल्म को देखने के साथ जुड़े इस मामले में, यह नहीं है."

मशीन सीखने एल्गोरिदम पर एक ही समस्या है । इस समस्या को हल करने की कोशिश ब्रायन Delorge, सीईओ Picnix, एक कंपनी है कि बेचता है एक विशेष कृत्रिम बुद्धि प्रौद्योगिकी. उनके उत्पादों में से एक — आईरिस — एक आवेदन पत्र है ग्राहक पक्ष पर किया जाता है, जो की खोज करने के लिए अश्लील साहित्य करने के लिए है, "लोगों की मदद", कहते हैं DeLong, "नहीं करना चाहते हैं जो पोर्न, मेरे जीवन में है।" उन्होंने कहा कि एक और समस्या के साथ है कि वहाँ कुछ भी हो सकता है, का एक बहुत अलग अलग चीजें हैं और छवियों है कि नहीं कर रहे हैं अश्लील, हो सकता है एक इसी तरह के आइटम नहीं है । पार्टी की छवि के समुद्र तट पर अवरुद्ध किया जा सकता है नहीं, क्योंकि यह अधिक है की तुलना में त्वचा के चित्रों में कार्यालय है, लेकिन क्योंकि यह के किनारे पर है । "यही कारण है कि यह बहुत मुश्किल है, प्रशिक्षित करने के लिए छवि मान्यता एल्गोरिथ्म सभी एक ही बार में कहते हैं," DeLong. "जब परिभाषा मुश्किल हो जाता है के लिए लोगों को कंप्यूटर में भी कठिनाइयों का सामना करना पड़". अगर कर सकते हैं लोगों पर सहमत नहीं है क्या अश्लील है और क्या नहीं कर सकते हैं, कंप्यूटर पर सभी आशा अंतर पता करने के लिए?

पढ़ाने के क्रम में एअर इंडिया का पता लगाने के लिए पोर्न, पहली बात आप की जरूरत है ऐसा करने के लिए उसे खिलाने के लिए है. एक बहुत कुछ के अश्लील साहित्य. मैं यह कहाँ मिल सकता है? अच्छी तरह से, पहली बात लोगों को क्या है का एक गुच्छा डाउनलोड VIDOS से Xhamster, XVideos, कहते हैं, दान शापिरो, सह-संस्थापक एक स्टार्टअप के Lemay.ऐ बनाता है कि फिल्टर एअर इंडिया अपने ग्राहकों के लिए. "यह एक उन ग्रे क्षेत्रों की कानूनी प्रकृति — उदाहरण के लिए, यदि आप अध्ययन कर रहे हैं सामग्री पर दूसरों के यह आप के अंतर्गत आता है?".

के बाद प्रोग्रामर डाउनलोड कर रहे हैं के टन अश्लील, वे कटौती से वीडियो फुटेज है कि अश्लील साहित्य नहीं है, यह सुनिश्चित करने के लिए है कि फुटेज के लिए नेतृत्व नहीं करेंगे अवरुद्ध । मंच का भुगतान लोगों को, सबसे अधिक भाग के लिए, संयुक्त राज्य अमेरिका के बाहर के लिए, अंकन, इस तरह की सामग्री; काम में कम भुगतान किया है और उबाऊ के रूप में दर्ज करने के लिए एक "कैप्चा". वे सिर्फ वहाँ बैठना और कहते हैं: यह porn, यह इस है. फिल्टर है, क्योंकि सभी पोर्न चला जाता है अंकन के साथ है । सीखने, तो बेहतर है का उपयोग करने के लिए नहीं है, बस चित्र है, लेकिन बड़ा नमूना डेटा.

"अक्सर न सिर्फ फिल्टर अश्लील, बल्कि संबंधित सामग्री," शापिरो कहते हैं. की तरह "नकली प्रोफाइल के साथ फोटो और फोन." वह बात करने के लिए सेक्स वर्कर की तलाश में ग्राहकों के साथ, लेकिन यह कुछ भी हो सकता है काफी कानूनी नहीं है । "यह अश्लील नहीं है, लेकिन इस तरह की बात आप नहीं चाहते हैं को देखने के लिए मंच पर है?". अच्छा स्वचालित संचालक पर प्रशिक्षित किया जाता है लाखों — नहीं तो लाखों लोगों के दसियों — उदाहरण के लिए सामग्री, और इसलिए कर सकते हैं एक बहुत बचाने के लिए आदमी के घंटे ।

"यह तुलना कर सकते हैं के बीच अंतर करने के लिए एक बच्चे और एक वयस्क कहते हैं," मैट Zeiler, सीईओ और संस्थापक की Clarifai, एक स्टार्टअप के क्षेत्र में कंप्यूटर दृष्टि, लागू करता है जो छानने छवियों के कॉर्पोरेट ग्राहकों के लिए. "मैं आपको बता सकता है यकीन के लिए — महीने की एक जोड़ी पहले हम एक बच्चा था. वे कुछ भी नहीं पता की दुनिया, उनके लिए सब कुछ नया है।" आप करने के लिए बच्चे को दिखाने के लिए (एल्गोरिथ्म) चीजों की एक बहुत कुछ है, यह है कि कुछ सीखा है । "लाखों और लाखों लोगों के उदाहरण हैं । लेकिन वयस्कों के रूप में — जब हम पैदा की है तो संदर्भ का एक बहुत कुछ दुनिया के बारे में और समझ में यह कैसे काम करता है, हम कुछ नया सीख सकते हैं में से सिर्फ दो उदाहरण हैं।" (हाँ, सिखाने के लिए एअर इंडिया को फिल्टर करने के लिए वयस्क सामग्री — यह एक बच्चे की एक बहुत). आज, कंपनियों की तरह Clarifai तेजी से बढ़ रहे हैं. वे एक अच्छा डेटाबेस की दुनिया में, वे भेद कर सकते हैं से कुत्तों बिल्लियों से कपड़े पहने. कंपनी Celera का उपयोग करता है अपने मॉडल के प्रशिक्षण के लिए नए एल्गोरिदम, अपने ग्राहकों के लिए — मूल मॉडल क्योंकि संसाधित किया गया है, डेटा की एक बहुत एक व्यक्तिगत संस्करण की आवश्यकता होगी एक नए डेटासेट के साथ काम करने का.

हालांकि, एल्गोरिथ्म के लिए मुश्किल हैयह सही करने के लिए है । के साथ सामग्री है कि है, जाहिर है, अश्लील, यह अच्छी तरह से संभालती है, लेकिन क्लासिफायरफ़ाइल हो सकता है ग़लत ढंग से चिह्नित घोषणा के अंडरवियर के रूप में वर्जित है, क्योंकि तस्वीर है और अधिक त्वचा की तुलना में, कहते हैं, के कार्यालय. (और अंडरवियर के अनुसार, Celera, बहुत मुश्किल). इसका मतलब यह है कि उन लोगों में शामिल अंकन पर ध्यान केंद्रित करना चाहिए इन चरम मामलों में, अपने काम को प्राथमिकता देने के तथ्य यह है कि यह मुश्किल है वर्गीकृत करने के लिए मॉडल है.

क्या सबसे मुश्किल है?

"मोबाइल फोनों के लिए पोर्न," कहते हैं Zeiler. "के पहले संस्करण हमारे डिटेक्टर नग्नता नहीं है के लिए इस्तेमाल किया सीखने कार्टून अश्लील साहित्य". कई बार एअर इंडिया को खराब करता है क्योंकि मैं नहीं पहचानता था. "के बाद इस पर काम करने के लिए एक ग्राहक है, हम लागू कर दिया है एक बहुत कुछ के साथ अपने डेटा के लिए मॉडल है और काफी सटीकता में सुधार फिल्टर के कार्टून चित्रों को बनाए रखना है, सटीकता की असली तस्वीरें कहते हैं," Zeiler.

प्रौद्योगिकी प्रशिक्षित किया जाता है कि बाहर सूंघ करने के लिए porn, यह कर सकते हैं इस्तेमाल किया अन्य बातों पर. प्रौद्योगिकी अंतर्निहित इस प्रणाली आश्चर्यजनक रूप से लचीला है । यह अधिक से अधिक मोबाइल फोनों के लिए स्तन है. आरा से वर्णमाला, उदाहरण के लिए, व्यापक रूप से प्रयोग किया जाता के रूप में स्वत: मॉडरेटर समीक्षा में अखबार. इस सॉफ्टवेयर काम करता है के लिए इसी तरह के वर्गीकरण छवियों के लिए छोड़कर, तथ्य यह है कि प्रकार के द्वारा विषाक्तता, नहीं है. (विषाक्तता में एक पाठ की समीक्षा करने के लिए निर्धारित के रूप में मुश्किल के रूप में अश्लील साहित्य में चित्र). Facebook का उपयोग करता है, इसी तरह की एक स्वत: छानने का पता लगाने के लिए आत्मघाती संदेश और सामग्री आतंकवाद के साथ जुड़े, और वह कोशिश कर रहा था करने के लिए इस तकनीक का उपयोग का पता लगाने के लिए फर्जी खबर पर इसकी बड़े पैमाने पर मंच.

इस सब के सब अभी भी पर निर्भर करता है मानव पर्यवेक्षण; हम से निपटने के बेहतर अस्पष्टता और अस्पष्ट संदर्भ में. Zeiler का कहना है कि वह नहीं करता है लगता है कि अपने उत्पाद से वंचित किया गया, किसी काम का है । यह हल करती स्केलिंग की समस्या इंटरनेट का है । लोगों को अभी भी प्रशिक्षित करेंगे ऐ, छँटाई और टैगिंग सामग्री इतनी है कि एअर इंडिया अंतर बता सकता है.

इस का भविष्य है कम मात्रा: व्यक्तिगत, टर्नकी समाधान प्रदान करते हैं कि कंपनियों के अपने व्यापार के प्रशिक्षण पर और अधिक परिष्कृत classifiers और अधिक डेटा है । बस के रूप में धारी और वर्ग है करने के लिए प्रस्ताव तैयार किए गए भुगतान समाधान है कि कारोबार के लिए नहीं करना चाहते हैं संभाल करने के लिए, उन्हें स्वतंत्र रूप से startups की तरह Clarifai, Picnix और Lemay.ऐ प्रदान करेगा ऑनलाइन संयम है ।

दान शापिरो से Lemay.ऐ उम्मीद है । "के रूप में किसी भी नई तकनीक के साथ, यह प्रक्रिया में अब भी है का आविष्कार. तो मुझे नहीं लगता कि हम हार की विफलता के मामले में". लेकिन कर सकते हैं एअर इंडिया कभी भी स्वतंत्र रूप से कार्य के पर्यवेक्षण के बिना एक आदमी है? यह स्पष्ट नहीं है. "वहाँ है कोई छोटा आदमी में नास-बॉक्स है, जो फिल्टर हर शॉट के साथ," वह कहते हैं । "हम की जरूरत है डेटा प्राप्त करने के लिए हर जगह से, क्रम में प्रशिक्षित करने के लिए एल्गोरिथ्म".

Zeiler, दूसरे हाथ पर, सोचता है कि एक दिन कृत्रिम बुद्धि उदारवादी होगा अपने दम पर सब कुछ. अंत में, संख्या के हस्तक्षेप की ओर से लोगों को हो जाएगा शून्य करने के लिए कम या तुच्छ प्रयास है । धीरे-धीरे प्रयासों के मानव में बदल जाएगा तथ्य यह है कि एअर इंडिया अब ऐसा नहीं कर सकते हैं, की तरह एक चर्चा के उच्च स्तर पर पहचान केवल लोगों को है कि.

मान्यता के अश्लील साहित्य का हिस्सा है कि. पहचान है एक अपेक्षाकृत तुच्छ काम मनुष्य के लिए लेकिन बहुत कठिन सिखाने के लिए एक एल्गोरिथ्म की पहचान करने के लिए बारीकियों. दृढ़ संकल्प की सीमा है, जब फिल्टर के निशान के रूप में छवि को अश्लील या अश्लील नहीं है, यह भी चुनौतीपूर्ण है, आंशिक रूप से गणितीय है.

कृत्रिम खुफिया है एक अपूर्ण दर्पण की कैसे हम दुनिया देखते हैं, बस के रूप में अश्लील साहित्य का एक प्रतिबिंब है क्या लोगों के बीच होता है जब वे अकेले हैं । यह कुछ सच्चाई है, लेकिन पूरी तस्वीर नहीं है.

<पी>सदस्यता के लिए मत भूलना .