كيفية إنشاء الروبوت الذي يريد تغيير العالم ؟

عالم الكمبيوتر كريستوف Soldi تحاول القضاء على الحاجة إلى القواعد التي تحكم سلوك الروبوتات. استراتيجيته لمنحهم الغرض: أن تجعلنا أكثر قوة. كريستوف يعمل في لعبة مختبر الابتكار في جامعة نيويورك. ساشا ماسلوف مقابلات ، Solja عن الكميات مجلة علينا أن نتعلم أننا قد لا تكون قادرة على الحفاظ على السيطرة عليها تدفق التفرد التكنولوجي.

الشهيرة القوانين الثلاثة للروبوتات طريق إسحاق اسيموف — الحد من سلوك الروبوتات و الآلات اللازمة لضمان أمن البشرية — أيضا لم تنته بعد. هذه القوانين ظهرت للمرة الأولى في القصة من خلال اسيموف في 1942 ثم في الأعمال الكلاسيكية مثل "I, robot" و يبدو شيئا من هذا القبيل:

1. الروبوت قد لا تجرح إنسان أو من خلال التقاعس عن العمل ، تسمح إنسان أن يأتي إلى الضرر.
2. الروبوت يجب أن تطيع الأوامر المعطاة من قبل البشر ، شريطة أن لا تتعارض مع القانون الأول.
3. الروبوت يجب أن تحمي وجودها ما لم تكن هذه الحماية لا يتعارض مع الأول أو الثاني القانون.

بالطبع هذه القوانين يمكن العثور على العديد من التناقضات والثغرات (ما استمتعت نفسه اسيموف). في عصرنا الحالي من البرامج المتقدمة آلة التعلم الذاتي الروبوتات, تعريف وتنفيذ الحديد الأخلاق الذكاء الاصطناعي أصبح مشكلة ملحة من أجل منظمات مثل المعهد لدراسة آلة الاستخبارات OpenAI.

كريستوف Soldz اتخذت نهجا مختلفا. بدلا من "أعلى إلى أسفل" فرض الفلسفية تعاريف كيف ينبغي أو لا ينبغي أن تتصرف الاصطناعي وكلاء Soldi وزميله دانيال Polanyi يستكشف الطريق "أسفل إلى أعلى" أو "ما الروبوت يجب القيام به في المقام الأول ،" كتب في مقالته "التمكين بديلا عن القوانين الثلاثة للروبوتات." "التمكين" ، وهو مفهوم ولد في تقاطع علم التحكم الآلي وعلم النفس ، يصف الدافع الداخلي الوكيل في آن واحد ومقاومة الظروف البيئية. "هيئة, هو يريد البقاء. انه يريد ان يترك بصمته في العالم" ، ويوضح Soldi. مكنسة كهربائية رومبا, برمجة تجد محطة الشحن عند انخفاض طاقة البطارية, — هذا هو بدائية سبيل المثال من "تمديد الحقوق" على الاستمرار في العمل في العالم ، فإنه يحتاج إلى تهمة ومواصلة وجودها ، وهذا هو البقاء على قيد الحياة.

التمكين قد تبدو وصفة للحصول على النتيجة التي أخشى أنصار آمنة نوع من الذكاء الاصطناعي نيك بوستروم: قوية نظام الحكم الذاتي ، المعنية فقط مع مصالحها الخاصة و بالجنون في هذه العملية. ولكن Soldi دراسة الإنسان والآلة التفاعل الاجتماعي ، يسأل السؤال: ماذا سيحدث إذا كان الوكيل Exec "أيضا سوف تشارك في تمديد حقوق أخرى ؟ تريد الروبوت لم ترغب فقط في البقاء في حالة عمل — من الضروري أن أراد أيضا أن دعم شريك الإنسان."

Solj و Polanyi يفهم أن نظرية المعلومات يوفر وسيلة لتنفيذ هذا المتبادلة امتداد الرياضية في القاعدة التي سوف تبني عدم التفلسف الاصطناعي الوكيل. "واحدة من عيوب القوانين الثلاثة للروبوتات هو أنها تقوم على اللغة ، واللغة ليست شديدة الغموض" يقول Soldi. "نحن نحاول العثور على شيء في الواقع يمكن أن تؤدي".

بعض التكنولوجيين نعتقد أن منظمة العفو الدولية هو كبير, حتى كارثية تهديد وجود الناس. و أنت ؟

سوف الامتناع. هذا هو, أعتقد حقا أنه في الوقت الحاضر ، هناك خوف من الروبوتات تزايد نفوذ منظمة العفو الدولية. ولكن أعتقد أنه في المدى القصير وربما أكثر قلقا حول احتمال تغيير في وظائف صنع القرار ، وفقدان الديمقراطية فقدان الخصوصية. لا أعرف كيف المرجح هو مظهر لا يمكن وقفها منظمة العفو الدولية في المستقبل القريب. ولكن حتى إن منظمة العفو الدولية سوف السيطرة على نظام الرعاية الصحية وإصدار وصفات, علينا أن نفكر في القضايا الأخلاقية التي تنشأ في سياق عمله.

كيف مفهوم التمكين سوف تساعدنا على التعامل مع هذه المشاكل ؟

أعتقد أن فكرة التمكين يملأ مكانة. وهي لن تسمح وكيل دعوا الرجل يموت ، ولكن في أقرب وقت كما يمكنك الاستمرار على هذا المستوى سيدعم نية لخلق فرص إضافية التعبير وتأثير الإنسان على العالم. في واحد من الكتب اسيموف الروبوتات فقط في نهاية المطاف وضع كل الناس في حاويات آمنة. سيكون غير مرغوب فيه. إذا كان لدينا القدرة على التأثير على العالم سوف يكون تحسن مستمر ، وأعتقد أنه سوف يكون أكثر إثارة للاهتمام لتحقيق هذا الغرض.

هل اختبار الأفكار الخاصة بك مع وكيل الظاهري في بيئة لعبة فيديو. ماذا حدث ؟

وكيل بدافع الخاصة بهم تمديد الامتيازات سوف تهرب من قذيفة تسقط في حفرة في تجنب أي موقف قد يؤدي إلى فقدان القدرة على الحركة ، أو إلى حدوث وفاة أو إلى ، وبالتالي للحد من operationalnext. قد تعمل.

بالتزامن مع لاعب البشرية ، التي وهبت أيضا مع تمديد حقوق رأينا أن العالم الافتراضي الروبوت سوف الحفاظ على مسافة معينة ، حتى لا تعوق حركة الشخص. فإنه لن كتلة لك لن تمر أنت لا يمكن أن يمر. وقال انه سيبقى في أقرب وقت ممكن لك أن تكون قادرة على مساعدة. وهذا يؤدي إلى السلوك الذي كان قدأن تأخذ المبادرة ومتابعة غريب.

على سبيل المثال ، أنشأنا السيناريو الذي كان لدينا الليزر حاجز تهديد للبشر لكن الآمن لأجهزة الروبوت. إذا كان الناس في هذه اللعبة النهج الليزر, الروبوت يظهر المزيد من الحوافز قفل الليزر. حافز يزيد عندما يقف شخص مباشرة أمام الحاجز ، كما إذا كانت تنوي عبوره. الروبوت في الواقع كتل الليزر ، وأصبح أمام رجل.

أثبتت إن هذه العوامل هي أي سلوك غير مقصود ، على غرار ما ينشأ من ثلاثة قوانين في كتاب اسيموف?

أولا ، كان سلوك جيد. على سبيل المثال الافتراضي الروبوت تم اعتراضها من قبل الأعداء الذين حاولوا قتلك. من وقت لآخر انه يمكن القفز أمام رصاصة إذا كانت الطريقة الوحيدة لانقاذ لكم. ولكن ما نحن يفاجأ خاصة من البداية أنه هو أيضا يخشى الرجل.

والسبب في ذلك هو اتصال مع "قصر النظر" نموذج: في جوهرها ، ويحلل كيف سلسلة من الإجراءات المحددة في اثنين أو ثلاث خطوات يمكن أن تؤثر على العالم على حد سواء بالنسبة لك. ولذلك فإن الخطوة الأولى المبرمجة أن اللاعب بشكل عشوائي. ولكن في الممارسة العملية ، أدى هذا إلى حقيقة أن العميل قد تعامل الرجل كنوع من مختل عقليا ، الذي يمكن في أي نقطة في الوقت المناسب ، على سبيل المثال ، النار الوكيل. لذا الوكيل كان بعناية فائقة اختيار الوضع في الشخص الذي لا يمكن قتله.

كان علينا إصلاحه ، لذلك نحن غرار ما يسمى افتراض الثقة. في الواقع, رفيق وكيل يتصرف على افتراض أن الناس سوف تختار فقط تلك الإجراءات التي لن تحد من امتيازات الوكيل — ولعل هذا هو أكثر ملاءمة بالنسبة رفيق النموذج.

لقد لاحظت أيضا أنه إذا كان لديك 10 نقاط الصحة رفيق لا تشعر بالقلق بشكل خاص إذا كنت قد فقدت ثمانية أو تسعة من تلك النقاط — حتى أنه قد أطلق النار مرة واحدة فقط من أجل المتعة فقط. ثم أدركنا أن هناك فجوة بين العالم الذي نعيش فيه نموذج في لعبة كمبيوتر. مرة واحدة لدينا غرار العجز الناجم عن فقدان الصحة ، اختفت المشكلة. كما يمكن أن يكون حلها من خلال وجود لا قصير النظر نموذج يمكن حساب أعمال أخرى اثنين من الخطوات في المستقبل. إذا كان العميل يمكن أن ننظر إلى المستقبل, وقال انه يرى أن وجود المزيد من الصحة يمكن أن تكون مفيدة في المستقبل الأحداث.

مع الأخذ بعين الاعتبار أن التغيير في عدد من نقاط الصحة بأي شكل يؤثر على تمديد حقوق العميل يقرر: "لقد أطلق عليه النار لا تطلقوا النار — ما هو الفرق؟". وأحيانا الحرائق. والتي بالطبع هو المشكلة. أنا لا أريد لقطات عشوائية في اللاعبين. واضاف لدينا إصلاح الافتراضية الروبوت قليلا أكثر قلقا حول حالتك من حولها.

كيف تجعل هذه المفاهيم دقيقة ؟

إذا أخذنا في الاعتبار عوامل مثل نظام التحكم ، فإنها يمكن أن تتحلل إلى المعلومات مكونات: في العالم شيء يحدث بطريقة أو بأخرى عنك. نحن نتحدث عن المعلومات ، لا حول الأشياء التي كنت تتصور ، وكذلك آثار من أي نوع — وهذا يمكن أن يكون مادة شيئا تتدفق بين العالم. قد تكون درجة الحرارة أو المواد المغذية في الجسم. أي الشيء الذي يعبر الحدود بين العالم وكيل نقل المعلومات. وبالمثل ، فإن عامل يمكن أن يؤثر على العالم الخارجي في العديد من الطرق المختلفة ، وبذلك أيضا في المعلومات.

يمكنك التفكير في هذا تيار قدرة القناة ، هو مفهوم من المعلومات النظرية. قد يكون لديك صلاحيات واسعة ، وتعزيز حقوق, إذا كنت قادرا على اتخاذ مختلف الإجراءات التي تؤدي إلى نتائج مختلفة. إذا كان هناك شيء يذهب على نحو خاطئ, سوف تفقد قدراتك ، لأن فقدان القدرة يتوافق مع كمية الحد من عرض النطاق الترددي بينك وبين البيئة. هذه هي الفكرة الأساسية.

كم ينبغي أن وكيل أعرف أن توسيع صلاحيات تصرف في كامل ؟

تمديد حقوق لديها ميزة أنها يمكن أن تستخدم حتى عندما لم يكن لديك المعرفة الكاملة. العميل يحتاج حقا نموذجا لكيفية أعمالها سوف تؤثر على العالم لكنه لا تحتاج إلى فهم كامل من العالم و كل تعقيداته. على عكس بعض المقاربات التي تحاول محاكاة كل شيء في العالم ممكن ، في حالتنا نحن فقط بحاجة إلى معرفة كيف تؤثر تصرفاتك التصور الخاص بك. لا تحتاج إلى معرفة كل شيء عن كل شيء وكل ما تحتاجه هو وكيل الذي يستكشف العالم. يفعل شيئا و أحاول أن أفهم كيف أفعاله تؤثر على العالم. هذا النموذج هو في تزايد و وكيل أفضل فهم أفضل حيث أن تمتد حدود سلطتها.

يمكنك اختباره في بيئة افتراضية. لماذا ليس في العالم الحقيقي ؟

عقبة رئيسية أمام التوسع في النموذج ووضعه في الروبوت الحقيقي هو تعقيد حساب قناة قدرة العميل و الشخص في بيئة غنية مثل العالم الحقيقي الى حد كبير. كل هذه العمليات لم تصبح فعالة. أنا متفائل ، ولكن حتى هذه المشكلة هو محض الحسابية. ولذلك نحن تحقق من تشغيل النظام في لعبة الكمبيوتر في شكل مبسط.

يبدو أن التمكين ، من الناحية المثالية ، تجعل سياراتنا قوية كلاب الحراسة.

أنا أعرف حتى من بعض المتحمسين الذين يتعمدون محاكاة سلوك رفيق استنادا إلى الكلاب. أعتقد إذا الروبوتات سوف يعاملوننا كالكلاب في المستقبليمكننا الحصول على جنبا إلى جنب.