جوجل منظمة العفو الدولية علمت "عدوانية للغاية" في المواقف العصيبة

من العام الماضي ، الفيزياء النظرية الشهير "ستيفن هوكينج" إن تطوير الذكاء الاصطناعي قد يكون "إما أفضل أو أسوأ حدث للبشرية جمعاء." كلنا شاهد "المدمر" و نحن جميعا تخيل كيف المروع الجحيم قد يكون وجودنا ، إذا كانت هذه النفس-علم منظمة العفو الدولية النظام مثل سكاي نت يوم واحد يقرر أن الإنسانية لم يعد يحتاج إليها. وأحدث النتائج الجديدة من نظام منظمة العفو الدولية من شركة DeepMind (المملوكة من قبل جوجل) فقط مرة أخرى تذكرنا بضرورة أن تكون حذرا للغاية عند تصنيع الروبوتات في المستقبل.

في الدراسات التي أجريت في نهاية العام الماضي ، منظمة العفو الدولية من DeepMind المكتسبة أثبتت بغض النظر عما وضعت له الذاكرة و هزم أفضل اللاعبين في العالم . وبالإضافة إلى ذلك, انه اتقن مهاراته و تقليد صوت الإنسان.

في أحدث اختبار فحص الباحثون "رغبتها" في التعاون. وأظهرت الاختبارات عند منظمة العفو الدولية DeepMind "يشعر" التي تفقد لتفادي الخسارة وقال انه يبدأ في اختيار جديد و «عدوانية للغاية» استراتيجية. فريق جوجل قضى مع منظمة العفو الدولية ، 40 مليون دورات في الكمبيوتر بسيطة لعبة جمع ، حيث اللاعب كان مطلوب من أجل جمع أكبر قدر من الثمار المرجوة. منظمة العفو الدولية DeepMind تعمل مع اثنين من "وكلاء اللاعبين" (المكعب الأزرق و الأحمر مكعب). مهندسي جوجل أعطيت مهمة تنظيم مسابقة بين «وكلاء» و جمع أكبر قدر الظاهري التفاح (الساحات الخضراء) وقت ممكن.

من وقت إلى آخر ، في حين أن "وكلاء" يمكن بسهولة تجميع الفاكهة متوفرة بكميات كبيرة ، كل شيء بسلاسة. ولكن بمجرد توريد التفاح انخفضت سلوك "وكلاء" أصبح "العدوانية". أنها بدأت بنشاط استخدام أداة (شعاع الليزر) ، مما ساعد على طرد العدو من خلف شاشة اللعبة ثم جمع كل التفاح

ومن المثير للاهتمام, ضرب العدو من الميدان مع شعاع الليزر لا مزيد من الجوائز المقترحة. كسر العدو هي فقط بعض الوقت خارج الشاشة, في حين أن أكثر نجاحا ، العدو كان قادرا على جمع المزيد الظاهري التفاح.

إذا كان "وكلاء" لم تستخدم أشعة الليزر ، ثم من الناحية النظرية عدد من التفاح. انها في الاساس حدث عندما "وكلاء" أكثر انخفاض مستوى "أقل ذكاء" خيارات DeepMind. المزيد من السلوك العدواني والتخريب والجشع بدأت تظهر إلا عندما بدأت جوجل لاستخدام أكثر تعقيدا من أشكال DeepMind.

عندما استخدم الباحثون "وكلاء" أكثر من مجرد شبكة بسيطة DeepMind ، بينهما وأشار إلى وجود "جو أكثر ودية التعايش على أرض الملعب." ومع ذلك ، عند إدارة وكلاء نقل أكثر تعقيدا من أشكال الشبكات ، منظمة العفو الدولية أصبحت أكثر عدوانية و بدأت في محاولة مقدما لضرب الخصم من الملعب لأول أسرع للحصول على حصة الأسد من الإنتاج من الظاهرية التفاح. جوجل يفترض العلماء أن أكثر ذكاء عميل وأكثر فعالية قادرة على التعلم والتكيف مع البيئة والطرق المتاحة, و تأتي في نهاية المطاف إلى استخدام تكتيكات أكثر عدوانية لتحقيق الفوز.

"هذا النموذج يدل على أن نتيجة التعلم و التكيف مع الظروف البيئية هو مظهر من مظاهر جوانب معينة من السلوك البشري" — يقول جويل Z. Leibo ، أحد الباحثين الذي أجرى هذه التجربة.

"أقل عدوانية السلوك يحدث إلا عند التدريب والبقاء في بيئة آمنة نسبيا ، مع فرصة أقل من عواقب بعد إجراءات معينة. الطمع بدوره انعكس في الرغبة في تجاوز وجمع كل ثمار التفاح."

بعد "الحصاد" DeepMind عرضت للعب لعبة أخرى تسمى فبك. هذه المرة كان حضره ثلاثة AI-agent: اثنين من لعب دور الذئاب و الأخرى دور الفريسة. على عكس لعبة جمع, لعبة جديدة بقوة ساهمت في التعاون بين الذئاب. الأول هو أسهل للقبض على الفريسة ، وثانيا ، إذا كان كل من "الذئب" بالقرب قصفت فريسة كلاهما تتلقى مكافأة معينة ، بغض النظر عن الذين اشتعلت.

"الفكرة هي أن التعدين يمكن أن تكون خطيرة. وبالإضافة إلى ذلك, يمكن أن الذئب و قادرة على قيادة, ولكن هناك خطر من فقدان في هجوم من قبل الزبالين", — يفسر الأمر.

"ولكن إذا كان كل منهم مطاردة الفريسة معا ، ومن ثم فهي قادرة بشكل أفضل على حماية لها من الزبالين وبالتالي توليد أعلى مكافأة."

في عام ، من اللعبة جمع منظمة العفو الدولية DeepMind علمت أن العدوان والأنانية هي الأكثر فعالية استراتيجيات الحصول على النتيجة المرجوة في بيئة معينة. فبك من نفس النظام أدرك أن التعاون بدلا من محاولات فردية يمكن أن يكون المفتاح إلى أكثر قيمة المكافأة في حالات معينة. على الرغم من أعلاه اختبار البيئة الأساسية فقط ألعاب الكمبيوتر – الرئيسية رسالة واضحة الآن. أن منظمة العفو الدولية مع المصالح المتنافسة في مواقف الحياة الحقيقية ، في بيئة واحدة و ربما ان مهام ليست kompensiruet الهدف المشترك, نتيجةيمكن أن تصبح حربا حقيقية. خصوصا إذا كان الناس مثل واحد من العناصر في تحقيق هذا الهدف سيتم القضاء.

كمثال فقط تخيل إشارات المرور ، منظمة العفو الدولية و المركبات غير المأهولة ، محاولة لإيجاد الطريق الأسرع. الجميع بأداء مهامهم بهدف الحصول على الأكثر أمانا والأكثر فعالية نتائج الشركات.

على الرغم من "الرضع" سنوات DeepMind وعدم وجود أي طرف ثالث التحليل النقدي من قدراتها ، نتائج الاختبارات تشير إلى الأفكار التالية: حتى إذا كنا إنشاء هذا لا يعني أن الروبوتات والذكاء الاصطناعي ونظم تلقائيا وضع الرغبة في وضع الإنسان يحتاج أعلاه الخاصة بهم. علينا أن "مصنع اللطف" في طبيعة آلات توقع أي "الثغرات" التي قد تسمح لهم للوصول إلى تلك أشعة الليزر.

واحدة من أهم أطروحات مجموعة المبادرة OpenAI إلى دراسة أخلاقيات الذكاء الاصطناعي شيء كما بدا في عام 2015 على النحو التالي:

"اليوم منظمة العفو الدولية تمتلك أنظمة رهيبة, ولكن غاية قدرات متخصصة. وعلى الأرجح أننا لا يزال طويلا سوف استمر في التحسن. على الأقل طالما قدرتها على حل تقريبا كل التحديات الفكرية لن تكون أكبر من الإنسان. فمن الصعب أن نتصور أي مستوى من الاستفادة سوف تكون قادرة على جلب منظمة العفو الدولية إلى الإنسان على مستوى الشركات ، كما أنه من الصعب أن نتخيل ما الضرر الذي يمكن أن يسبب المجتمع بينما إهمال إنشائها واستخدامها."