وسوف تعرف على الفور أن كنت الإباحية. وسوف تفهم الكمبيوتر ؟

في بداية الشهر الماضي ، نعرفكم أعلنت أنها ستمنع الإباحية. عندما سياسة جديدة فيما يتعلق المحتوى دخلت حيز التنفيذ بعد حوالي أسبوعين — ديسمبر 17 — أصبح من الواضح أنه ستكون هناك مشاكل. بعد نشر نظام الذكاء الاصطناعي الذي كان perebanit جميع الإباحية على الموقع ، عن طريق الخطأ وضع علامة الأبرياء المشاركات في 455,4 مليون بلوق على موقع الويب بين 168,2 مليار المشاركات: المزهريات, السحرة, الأسماك, وهلم جرا.

الذكاء الاصطناعي

على الرغم من أنه من غير الواضح ما التلقائي تصفية استخدامها نعرفكم أو خلقت الشركة الخاصة بك لم ترد على الاستفسارات حول هذا الموضوع — ومن الواضح أن الشبكة الاجتماعية كانت عالقة بين بلده السياسة والتكنولوجيا. على سبيل المثال, موقف يتعارض من الموقع فيما يتعلق "المرأة تظهر حلمات" و الفنية العري ، على سبيل المثال ، أدت إلى السياقية الحلول التي تبرهن أنه حتى نعرفكم لا تعرف ماذا الحظر على المنصة. كجزء من الشركة لتحديد ما تعتبره وبذيئة ؟

أولا لمنع خطورة المحتوى صعب, لأن في البداية كان من الصعب تحديد ما هو عليه. تعريف الفحش — دب فخ ، وهي أكثر من مائة سنة في عام 1896 الولايات المتحدة أول قوانين تنظم الفحش. في عام 1964 في Jacobellis ضد أوهايو بشأن ما إذا كان أوهايو إلى حظر عرض لويس ماليه ، أصدرت المحكمة العليا وربما الأكثر شهرة تعريف المواد الإباحية الصعب اليوم: "أنا لا اليوم محاولة أخرى لتحديد هذا النوع من المواد ، والتي ، كما أفهم سيتم تضمينها في وصف وجيز ؛ ربما أنا لا يمكن أبدا أن تنجح في بلغة مفهومة للقيام بذلك" قال القاضي ستيوارت. "ولكن أنا أعرف ما هو عندما تشاهد فيلم المرتبطة مع هذه الحالة ، ليس كذلك."

آلة-خوارزميات التعلم على نفس المشكلة. هذه هي المشكلة محاولة حل براين Delorge ، الرئيس التنفيذي Picnix ، وهي الشركة التي تبيع مجموعة متخصصة في تكنولوجيا الذكاء الاصطناعي. واحد من منتجاتها — القزحية — هو تطبيق على جانب العميل التي تستخدم في اكتشاف المواد الإباحية هو "مساعدة الناس" ، يقول ديلونغ "الذين لا يريدون الإباحية في حياتي." وأشار إلى أن مشكلة أخرى مع الإباحية هو أنه لا يمكن أن يكون أي شيء, الكثير من الأشياء المختلفة و الصور التي ليست إباحية قد بنود مماثلة. صورة الطرف على الشاطئ قد يكون قد تم حظره ليس لأنه يحتوي على أكثر من الجلد الصور في المكتب, ولكن لأنه على الحافة. "هذا هو السبب في أنه من الصعب جدا تدريب صورة خوارزمية التعرف في كل مرة ،" يقول ديلونغ. "عندما التعريف يصبح من الصعب على الناس كمبيوتر تواجه أيضا صعوبات". إذا كان الناس لا يمكن أن نوافق على ما هو الإباحية وما هو غير ذلك ، يستطيع الكمبيوتر في كل الأمل أن تعرف الفرق ؟

من أجل تعليم منظمة العفو الدولية للكشف عن الإباحية ، أول شيء كنت بحاجة إلى القيام به هو أن تطعمه الإباحية. الكثير من المواد الإباحية. أين يمكنني الحصول عليه ؟ أول شيء يفعله الناس هو تحميل مجموعة من VIDOS من Pornhub, XVideos, يقول دان شابيرو ، المؤسس المشارك بدء التشغيل لماي.منظمة العفو الدولية أن يخلق المرشحات منظمة العفو الدولية لعملائها. "انها واحدة من تلك المناطق الرمادية من الطبيعة القانونية — على سبيل المثال ، إذا كنت تدرس على محتوى الآخرين سواء كان ينتمي لك؟".

بعد المبرمجين يتم تحميل طن من الإباحية ، وقطعوا من لقطات الفيديو التي الإباحية ليست للتأكد من أن لقطات لن يؤدي إلى عرقلة البيتزا. منصة دفع الناس, بالنسبة للجزء الأكبر, خارج الولايات المتحدة ، لوسم هذا المحتوى ؛ العمل في الأجور المنخفضة و مملة كما أن إدخال "كلمة التحقق". أنها مجرد الجلوس هناك و أقول: هو الإباحية ، هو هذا. مرشح لأن جميع الإباحية يذهب مع العلامات. التعلم هو أفضل إذا كان استخدام ليس فقط الصور ولكن عينة كبيرة من البيانات.

"غالبا ما يكون ليس فقط تصفية الإباحية ، بل يرتبط المواد" شابيرو يقول. "مثل ملامح وهمية مع الصورة والفتيات الهاتف." مشيرا إلى العاملين في مجال الجنس في البحث من العملاء, ولكن يمكن أن يكون أي شيء غير قانوني تماما. "انها ليست الإباحية ، ولكن هذا النوع من الشيء الذي لا تريد أن ترى على المنبر؟". جيد الآلي مشرف تدريب على الملايين — إن لم يكن عشرات الملايين — أمثلة على المحتوى ، وبالتالي يمكن توفير الكثير من ساعات العمل.

"لا يمكنك مقارنة الفرق بين طفل و بالغ" يقول مات زايلر ، الرئيس التنفيذي ومؤسس Clarifai, بدء التشغيل في مجال الرؤية الحاسوبية ، الذي ينفذ تصفية الصور للعملاء من الشركات. "استطيع ان اقول لكم لعلى يقين — قبل شهرين كان لدينا طفل. أنها لا تعرف شيئا عن العالم ، لهم كل ما هو جديد." لديك لاظهار الطفل (الخوارزمية) الكثير من الأشياء, وأنه شيء المستفادة. "الملايين والملايين من الأمثلة. ولكن الكبار — عندما أنشأنا لذلك الكثير من سياق حول العالم وفهم كيف يعمل ، يمكننا أن نتعلم شيئا جديدا من أمثلة اثنين فقط." (نعم لتعليم منظمة العفو الدولية لتصفية محتوى للبالغين — انها مثل عرض الطفل الكثير من الإباحية). اليوم, شركات مثل Clarifai تنمو بسرعة. لديهم قاعدة بيانات جيدة من العالم ، فإنها يمكن أن يميز الكلاب من القطط يرتدي من عارية. شركة Celera يستخدم نموذج للتدريب خوارزميات جديدة لعملائها — لأن الأصل نموذج معالجة الكثير من البيانات الشخصية الإصدار يتطلب new dataset للعمل مع.

ومع ذلك ، فإن خوارزمية صعبةأن تفعل ذلك الحق. مع المحتوى الذي من الواضح إباحية ، فإنه يعالج بشكل جيد ، لكن المصنف قد بشكل غير صحيح علامة إعلان الملابس الداخلية من المحرمات ، لأن الصورة هو أكثر من الجلد, يقول, مكتب. (بيكيني الملابس الداخلية ، وفقا Celera ، من الصعب جدا). وهذا يعني أن المشاركين في الاحتفال يجب أن تركز على هذه الحالات القصوى في عملها ، مع إعطاء الأولوية إلى حقيقة أنه من الصعب تصنيف النماذج.

ما هو أصعب ؟

"أنيمي الاباحية," يقول زايلر. "أول نسخة من كشف العري لا يستخدم التعلم الكرتون الإباحية". مرات عديدة منظمة العفو الدولية عبث لأني لم تعترف هنتاي. "بعد أن عمل على هذا العميل ، قمنا بتنفيذ الكثير من البيانات إلى نموذج تحسنت بشكل ملحوظ دقة تصفية الصور الكرتونية ، والإبقاء على دقة الصور الحقيقية" يقول زايلر.

تقنية مدربة على شم الإباحية ، فإنه يمكن أن تستخدم في أشياء أخرى. التكنولوجيا الأساسية لهذا النظام هي مرنة بشكل مدهش. إنها أكثر من أنيمي الثدي. بانوراما من الأبجدية ، على سبيل المثال ، يستخدم على نطاق واسع آلي مشرف مراجعة في الصحيفة. هذا البرنامج يعمل على غرار تصنيف الصور ، باستثناء حقيقة أن أنواع كتبها سمية ، وليس العري. (سمية في النص استعراض لتحديد صعبة كما الإباحية في الصور). Facebook يستخدم مماثلة تصفية تلقائية للكشف عن الانتحار الرسائل والمحتوى المرتبط بالإرهاب و كان يحاول استخدام هذه التكنولوجيا للكشف عن أخبار وهمية على المنصة الضخمة.

كل هذا لا يزال يعتمد على الإنسان والإشراف ؛ التعامل بشكل أفضل مع الغموض غموضا السياق. زايلر يقول انه لا يعتقد أن المنتج له حرم شخص من العمل. فإنه لا يحل القياس المشكلة من الإنترنت. الناس لا يزال القطار منظمة العفو الدولية والفرز ووضع علامات على المحتوى حتى أن منظمة العفو الدولية أن أقول الفرق.

هذا هو مستقبل الاعتدال: الفردية ، الحلول المتكاملة التي تقدمها الشركات التي تقوم أعمالهم على تدريب أكثر تطورا المصنفات المزيد من البيانات. فقط الشريط مربع يجب أن نقدم الجاهزة حلول الدفع للشركات التي لا ترغب في التعامل معها بشكل مستقل ، الناشئة مثل Clarifai, Picnix و لماي.منظمة العفو الدولية سوف توفر على الانترنت الاعتدال.

دان شابيرو من لماي.منظمة العفو الدولية تأمل. "كما هو الحال مع أي تقنية جديدة ، فإنه لا يزال في عملية الاختراع. لذلك أنا لا أعتقد أننا نخسر في حال فشل". إلا أن منظمة العفو الدولية من أي وقت مضى العمل بشكل مستقل دون إشراف من رجل ؟ فإنه ليس واضحا. "لا يوجد رجل صغير في المسعط التي المرشحات كل لقطة," يقول. "نحن بحاجة للحصول على البيانات من كل مكان ، من أجل تدريب الخوارزمية".

زايلر ، من ناحية أخرى ، يعتقد يوما الذكاء الاصطناعي سوف معتدلة في كل شيء من تلقاء نفسها. في النهاية عدد من التدخلات على جزء من الناس إلى الصفر أو تافهة الجهد. تدريجيا جهود الإنسان سوف تتحول إلى حقيقة أن منظمة العفو الدولية الآن لا يمكن القيام به ، مثل مناقشة رفيعة المستوى الهوية فقط لدى الناس.

الاعتراف في المواد الإباحية هو جزء من ذلك. تحديد نسبيا مهمة تافهة بالنسبة للبشر ولكن أصعب بكثير لتعليم خوارزمية التعرف على الفروق الدقيقة. تحديد العتبة ، عندما مرشح يمثل صورة إباحية أو غير إباحية ، هو أيضا تحديا ، جزئيا الرياضية.

الذكاء الاصطناعي هو الكمال مرآة كيف نرى العالم كما الإباحية هو انعكاس لما يحدث بين الناس عندما تكون وحدها. فإنه لديه بعض الحقيقة لكن الصورة كاملة.

لا تنسى الاشتراك .