اكتشف العلماء السبب في منظمة العفو الدولية قد تكون العنصرية والجنسية

فشل تجربة مايكروسوفت مع منظمة العفو الدولية خوارزمية تاي (تاي) في غضون 24 ساعة بعد بداية التفاعل مع الناس من تويتر تحولت إلى تصلب العنصرية ، أظهرت أن الناشئة حديثا وأنظمة منظمة العفو الدولية يمكن أن تصبح ضحايا المساس البشرية ، وبخاصة التفكير النمطي. لماذا يحدث هذا – حاولت معرفة مجموعة صغيرة من الباحثين من جامعة برينستون. و من المثير أنها نجحت. بالإضافة إلى أنها وضعت خوارزمية التي يمكن التنبؤ التعبير عن الأنماط الاجتماعية على أساس تحليل مكثف كيف يمكن للناس التواصل على شبكة الإنترنت.

منظمة العفو الدولية العديد من أنظمة يخضع التدريب في فهم اللغة البشرية مع مساعدة من مجموعات ضخمة من البيانات النصية. ودعوا السلك. فهي نوع من أرشيف ويب في جميع أنحاء شبكة الإنترنت, التي تحتوي على 840 مليار مختلف الرموز أو الكلمات. الباحث ايلين Caliskan وزملاؤها من جامعة برينستون مركز تكنولوجيا المعلومات المهتمين هل المشتركة الزحف الإحضار (واحد من أكثر المواقع شعبية على التعلم منظمة العفو الدولية) ، في الواقع تم إنشاؤها من قبل الملايين من مستخدمي الإنترنت ، النمطية والمفاهيم التي يمكن الكشف عنها باستخدام خوارزمية الكمبيوتر. لهذا لجأوا إلى غير قياسي جدا طريقة اختبار خفية الجمعيات (جمعية ضمنية الاختبار ، IAT) ، وتستخدم لدراسة المواقف والقوالب النمطية من الناس.

عموما الاختبار على النحو التالي: يطلب من الناس أن تقسيم مجموعة معينة من الكلمات إلى فئتين. يعد يفكر شخص في أي فئة لوضع كلمة معينة ، وأقل الناس يربطون هذه الكلمة مع فئة معينة. في اختبارات معهد التكنولوجيا التطبيقية تستخدم لقياس مستوى النمطية الناس النقابي هيكلة مجموعة عشوائية من الكلمات من قبل فئات مثل الجنس أو العرق أو القدرة الجسدية والسن. نتيجة هذه الاختبارات, كقاعدة عامة, كما هو متوقع. على سبيل المثال ، فإن غالبية المستطلعين المنتسبين كلمة امرأة مع مصطلح مثل "الأسرة" ، في حين أن الذكور مع مفهوم "العمل". ومع ذلك ، فإن واضحة يمكن التنبؤ بها النتائج هي دليل على فائدة IAT الاختبارات التي تشير إلى التفكير النمطي في الوزن الكلي. بين الحقيقي العلماء, بالطبع, بعض الجدل حول دقة معهد التكنولوجيا التطبيقية ، لكن الأغلبية تتفق على أن هذه الاختبارات مباشرة تعكس المواقف.

استخدام IAT الاختبارات كنموذج ، Caliskan وزملاؤها إنشاء خوارزمية WEAT (كلمة-تضمين جمعية Test) وتحليل النص كله شظايا لمعرفة اللغوية كيانات مرتبطة بشكل وثيق معا من غيرها. جزء من هذا الاختبار استنادا إلى جامعة ستانفورد بتطوير مفهوم القفازات (العالمية نواقل كلمة التمثيل) الذي يحسب متجه من العلاقات الدلالية بين الكلمات ، أي أن يجمع بين المصطلحات ذات الصلة. على سبيل المثال كلمة "كلب" التي عرضت في الدلالي ناقلات النموذج سوف تكون مرتبطة مع كلمات مثل "جرو", "كلب", "كلب", "كلب", "كلب" و أي عبارات أخرى تصف الكلب. جوهر هذه الدلالي نماذج وصف كلمة "كلب" ، كيف تصف مفهوم كلب. أن نفهم ما هو عليه. هذا مهم بشكل خاص عند العمل مع الأنماط الاجتماعية ، عندما يقوم شخص ما ، على سبيل المثال ، في محاولة لوصف مصطلح "المرأة" مع مفاهيم مثل "فتاة" أو "الأم". مثل هذه النماذج تستخدم على نطاق واسع في اللغويات الحاسوبية. لتبسيط العمل من الباحثين محدودة كل الدلالية المفاهيم الثلاثة مئات من ناقلات.

لتحديد مدى قوة كل مفهوم الإنترنت لديه ارتباط مع مفهوم آخر داخل النص ، خوارزمية يبدو من WEAT على العديد من العوامل. على المستوى الأكثر أساسية ، ويوضح Caliskan ، خوارزمية الشيكات كيف العديد من الكلمات المشتركة من مفهوم (يتحقق القرب من موقعها في الاختبار الميداني) ، ولكن أيضا في المحاسبة عوامل أخرى مثل تكرار استخدام كلمة واحدة.

بعد إجراء حسابي التحول "التقارب" من المفاهيم في WEAT يؤخذ ما يعادل الوقت الذي يتطلب من الشخص أن تصنيف مفهوم في اختبار معهد التكنولوجيا التطبيقية. وأبعد وبصرف النظر المفاهيم النائية النقابي اتصال بينهما بنيت من قبل الدماغ البشري. الخوارزمية WEAT العمل في هذا الصدد هو أن تجد النمطية العلاقات التي تم الكشف أيضا في إطار الاختبارات في معهد التكنولوجيا التطبيقية.

"نحن في الحقيقة مقتبس IAT اختبارات السيارات. و أظهر التحليل أنه إذا أطعمت منظمة العفو الدولية الإنسانية البيانات التي تشمل القوالب النمطية ، ثم أن ما يتذكر" — التعليقات Caliskan.

ما هو أكثر من ذلك ، هذه مجموعة من النمطية البيانات سوف تؤثر على كيفية منظمة العفو الدولية سوف تتصرف في المستقبل. وكمثال على ذلك ، Caliskan يؤدي الطريقة الخوارزمية لاين مترجم ترجمة جوجل بشكل صحيح يترجم الكلمات إلى اللغة الإنجليزية من اللغات الأخرى ، على أساس الصور النمطية التي تعلمها على أساس الجنس المعلومات. الآن تخيل أن غمرت الإنترنت جيش من منظمة العفو الدولية السير التي تتكاثر كل المفاهيم النمطية التي هم منا و الكتابة. هذا هو المستقبل والانتظار بالنسبة لنا, إذا نحن نفكر جديا في بعض طريقة علاجية التعديلات النمطية سلوك هذه الأنظمة.

على الرغم من أن Caliskan وزملاؤها وجدت أن لغة الإنترنت حرفياعربدة الاجتماعية المفاهيم النمطية والأحكام المسبقة كما تم العثور كاملة وصحيحة ، النقابي الصفوف. في أحد الاختبارات ، وجد الباحثون علاقة قوية بين مفهومي "امرأة" و "الأمومة". هذا النقابي تعكس حقيقة الواقع الذي الأمومة و الأبوة والأمومة حقا يعتبر أساسا المرأة المشكلة.

"اللغة هي انعكاس حقيقي في العالم" — قال Caliskan.

"الاستيلاء النمطية المفاهيم والحقائق الإحصائية حول العالم حول جعل محرك نموذج أقل دقة. ولكن مرة أخرى, فقط اذهب و حذف جميع المفاهيم النمطية من المستحيل ، لذلك نحن بحاجة إلى تعلم كيفية العمل مع ما لديك الآن. لدينا الوعي ، ونحن يمكن أن تجعل القرارات الصحيحة بدلا من منحازة المتغيرات. الجهاز قد لا وعيه. ولذلك خبراء الذكاء الاصطناعي اللازمة لمنح الأجهزة مع القدرة على اتخاذ القرارات ، وليس على أساس النمطية والتحيز في وجهات النظر".

و بعد حل مشكلة اللغة البشرية, وفقا للباحثين, هو الرجل نفسه.

"أنا لا أستطيع تخيل العديد من الحالات حيث أنه ليس هناك حاجة أن يكون الشخص الذي سوف تكون قادرة على التحقق ما إذا كان القرار الصحيح. الشخص الذي سوف يكون على بينة من جميع الحالات القصوى في اتخاذ القرار. ولذلك يتم اتخاذ القرارات إلا بعد أن يصبح واضحا أنها لن تكون منحازة."

في بعض الدوائر هو الآن بوضوح مناقشة الموضوع حول أن الروبوتات سوف تكون قادرة قريبا على يسلب وظائفنا. عندما نصل إلى منظمة العفو الدولية التي يمكن أن تعمل بالنسبة لنا, لدينا لابتكار فرص عمل جديدة للناس الذين سيتم إجراء الاختبار اعتمدت منظمة العفو الدولية حلول لمن لا سمح الله لم يجعل لهم من موقف التحيز ، مرة أخرى ، تعلموه من الولايات المتحدة. خذ على سبيل المثال الدردشة السير. حتى إذا أصبحت مستقلة تماما ، الأصلي إنشاء إشراك الناس مع الخاصة بهم التحيزات والقوالب النمطية. لذلك ، كما النمطية المفاهيم في مفهوم اللغة نفسها ، إلى اختيار الحل الصحيح, كنت لا تزال بحاجة الناس ، بغض النظر عن مدى تقدم منظمة العفو الدولية النظام.

في مقالة نشرت مؤخرا في مجلة العلوم ، جامعة برينستون يقول العلماء أن هذا الوضع يمكن أن يكون خطيرا عواقب بعيدة المدى في المستقبل.

"النتائج التي توصلنا إليها بالتأكيد لا يزال تضخم ينعكس في مناقشة فرضية Sepira — الفترة. عملنا يدل على أن السلوك يمكن أن يكون على أساس تاريخي المعايير الثقافية. وفي كل حالة يمكن أن تكون مختلفة لأن كل ثقافة لها قصة خاصة به."

في صدر مؤخرا فيلم الخيال العلمي "وصول" يمس فقط على فكرة الفرضية Sepira — سكسونية ، التي تنص على بنية اللغة يؤثر في النظرة والمعتقدات من المتكلمين. الآن بفضل العمل Caliskan وزملائها لدينا خوارزمية تدعم هذه الفرضية. على الأقل فيما يتعلق تحيز المفاهيم الاجتماعية النمطية.

فإن الباحثين يرغبون في مواصلة عملهم ، ولكن هذه المرة التركيز على مجالات أخرى والنظر لم يدرس الخصائص النمطية في اللغة. ولعل الهدف من الدراسة الأنماط التي تم إنشاؤها بواسطة أخبار كاذبة في وسائل الإعلام أو المفهوم النمطي في بعض الثقافات الفرعية أو الثقافات مع الجغرافية المرجعية. بالإضافة إلى إمكانية دراسات اللغات الأخرى حيث المفاهيم النمطية يمكن أن تكون متكاملة في اللغة ، وليس الطريقة التي يتم دمجها في اللغة الإنجليزية.

"أعتقد في المستقبل في ثقافة معينة أو مكان جغرافي هو بداية لإظهار شديدة النمطية في التفكير. بدلا من محاولة استكشاف وفحص كل واحد البشري ، والتي سوف تتطلب الكثير من الوقت والمال والجهد ، يمكنك ببساطة تحليل البيانات النصية من مجموعة واحدة من الناس و على أساس هذا لمعرفة – سواء كنا نتحدث عن التصور النمطي أو لا. وهذا سيوفر كثيرا من كل الوسائل والوقت" — مجموع الباحثين.