गूगल एअर इंडिया के लिए सिखाया जाना "बेहद आक्रामक" तनावपूर्ण स्थितियों में

पिछले साल, प्रसिद्ध सैद्धांतिक भौतिक विज्ञानी स्टीफन हॉकिंग ने कहा है कि कृत्रिम बुद्धि के विकास के लिए किया जाएगा "या तो अच्छी या बुरी घटना के लिए सभी मानव जाति." हम सब देखा है "टर्मिनेटर" और हम सब कल्पना कैसे apocalyptic नरक हो सकता है, हमारे अस्तित्व, अगर इस तरह के एक आत्म जागरूक ऐ प्रणाली की तरह स्काईनेट, एक दिन फैसला किया कि मानवता अब कोई यह की जरूरत है. और नवीनतम परिणामों के नए एअर इंडिया प्रणाली कंपनी से DeepMind (गूगल के स्वामित्व वाले) केवल एक बार फिर से याद दिलाने के बारे में हमें करने के लिए की जरूरत है जब बहुत सावधान विनिर्माण रोबोट का भविष्य है.

में किए गए अध्ययन के अंत में पिछले साल, ऐ से DeepMind हासिल कर लिया और दिखा दिया है, की परवाह किए बिना क्या है निर्धारित करने के लिए उनकी स्मृति में, और हार के सर्वश्रेष्ठ खिलाड़ियों में दुनिया . इसके अलावा, वह अपने सिद्ध कौशल और अनुकरण के मानव आवाज.

नयी परीक्षण, शोधकर्ताओं ने जाँच की "इच्छा" करने के लिए सहयोग करते हैं । परीक्षणों से पता चला जब ऐ DeepMind "लगता है" कि खोने के लिए, परिहार के झड़ने शुरू होता है का चयन करने के लिए एक नए और «बेहद आक्रामक» रणनीति है । गूगल की टीम के साथ बिताए ऐ, 40 लाख सत्र में एक साधारण कंप्यूटर खेल सभा है, जहां खिलाड़ी के लिए आवश्यक था के रूप में ज्यादा इकट्ठा वांछित फल है । ऐ DeepMind के साथ संचालित दो "खिलाड़ियों के एजेंटों" (एक नीले घन और एक लाल घन). गूगल के इंजीनियरों दिए गए कार्य को व्यवस्थित करने के लिए एक प्रतियोगिता के बीच «एजेंटों» और के रूप में ज्यादा इकट्ठा आभासी सेब (हरे वर्गों) के रूप में संभव है.

समय-समय पर, जबकि "एजेंट" आसानी से इकट्ठा फल, बड़ी मात्रा में उपलब्ध है, सब कुछ आसानी से चला गया. लेकिन के रूप में जल्द ही के रूप में की आपूर्ति सेब की कमी हुई है, व्यवहार की "एजेंट" बन गया "आक्रामक." वे शुरू करने के लिए सक्रिय रूप से उपयोग उपकरण (लेजर बीम) है, जो मदद बेदखल करने के लिए दुश्मन के पीछे खेल स्क्रीन और फिर करने के लिए सभी सेब लीजिए

दिलचस्प बात यह है कि बाहर दस्तक के साथ दुश्मन के क्षेत्र से एक लेजर बीम के साथ आगे कोई पुरस्कार का प्रस्ताव कर रहे हैं. टूट दुश्मन है बस कुछ समय के बाहर है, जबकि स्क्रीन और अधिक सफल, दुश्मन में सक्षम था इकट्ठा करने के लिए और अधिक आभासी सेब.

यदि "एजेंट" का उपयोग नहीं किया, लेजर बीम, तो सैद्धांतिक रूप से संख्या के सेब एक ही होगा । यह मूल रूप से क्या हुआ जब के रूप में "एजेंट" का इस्तेमाल किया गया था, और अधिक कम स्तर और कम से कम "बुद्धिमान" विकल्प DeepMind. अधिक आक्रामक व्यवहार, तोड़फोड़ और लालच दिखाने के लिए शुरू केवल जब गूगल का उपयोग करने के लिए शुरू किया और अधिक और अधिक जटिल रूपों के DeepMind.

जब शोधकर्ताओं के रूप में इस्तेमाल किया "एजेंट" अधिक से अधिक एक सरल नेटवर्क DeepMind, उन दोनों के बीच की उपस्थिति उल्लेखनीय "वातावरण अधिक अनुकूल सह-अस्तित्व पर खेल का मैदान." हालांकि, जब प्रबंधन एजेंट स्थानांतरित किया गया था और अधिक और अधिक जटिल रूपों के साथ नेटवर्किंग, ऐ और अधिक आक्रामक हो गया और शुरू करने के लिए प्रयास करने के लिए अग्रिम में प्रतिद्वंद्वी दस्तक के लिए खेल मैदान से पहले करने के लिए तेजी से प्राप्त करने के लिए उत्पादन का बड़ा हिस्सा से आभासी सेब । गूगल वैज्ञानिकों को लगता है कि और अधिक बुद्धिमान एक एजेंट है, और अधिक प्रभावी यह जानने के लिए सक्षम है, पर्यावरण के लिए अनुकूल करने और उपलब्ध तरीकों, और अंत में आते हैं, का उपयोग करने के लिए सबसे आक्रामक रणनीति जीतने के लिए ।

"इस मॉडल से पता चलता है कि परिणाम के सीखने और अनुकूलन के लिए पर्यावरण की स्थिति की एक मिसाल है के कुछ पहलुओं के मानव व्यवहार" — कहते हैं, जोएल जेड Leibo, शोधकर्ताओं में से एक, जो यह प्रयोग किया है.

"कम आक्रामक व्यवहार ही हुआ जब प्रशिक्षण और में रहने के लिए एक अपेक्षाकृत सुरक्षित वातावरण में, के साथ कम मौका के परिणामों के बाद कुछ कार्रवाई. लालच, बारी में, में परिलक्षित किया गया था करने के लिए इच्छा से आगे निकल करने के लिए और सभी सेब लीजिए."

"फसल" के बाद DeepMind की पेशकश की थी एक और खेलने के लिए खेल कहा जाता Wolfpack. इस समय यह ने भाग लिया था, तीन ऐ-एजेंट: दो की भूमिका निभाई भेड़िये, और अन्य भूमिका के शिकार हैं । खेल के विपरीत सभा, नई खेल, दृढ़ता के लिए योगदान दिया है के बीच सहयोग भेड़ियों. सबसे पहले, यह आसान है करने के लिए शिकार को पकड़ने, और दूसरी बात, अगर दोनों "भेड़िया" के पास थे बढ़ा शिकार, वे दोनों एक निश्चित इनाम है, जो की परवाह किए बिना यह है.

"विचार यह है कि खनन के लिए खतरनाक हो सकता है । इसके अलावा, कर सकते हैं लोन वुल्फ और ड्राइव करने में सक्षम है, लेकिन वहाँ है एक नुकसान के जोखिम के एक हमले में मैला ढोने वालों", — बताते हैं आदेश.

"लेकिन अगर उन दोनों का पीछा शिकार एक साथ, तो वे बेहतर कर रहे हैं सक्षम करने के लिए उसे बचाने से मैला ढोने वालों और इस प्रकार उत्पन्न एक उच्च इनाम है."

सामान्य में, खेल से सभा ऐ DeepMind सीखा है कि आक्रामकता और स्वार्थ हैं सबसे प्रभावी रणनीति के लिए हो रही है, वांछित परिणाम में एक विशेष वातावरण है । Wolfpack एक ही प्रणाली का एहसास है कि सहयोग के लिए विरोध के रूप में व्यक्तिगत प्रयासों के लिए महत्वपूर्ण हो सकता है एक अधिक मूल्यवान इनाम, कुछ स्थितियों में. हालांकि ऊपर वर्णित परीक्षण के वातावरण में कर रहे हैं केवल बुनियादी कंप्यूटर खेल – मुख्य संदेश स्पष्ट है अब. एक अलग एअर इंडिया के साथ प्रतिस्पर्धा के हितों वास्तविक जीवन की स्थितियों में, जगह में एक वातावरण है, और हो सकता है अगर उनके कार्यों नहीं कर रहे हैं kompensiruet आम लक्ष्य है, परिणामबन सकता है एक असली युद्ध है. यदि विशेष रूप से लोगों की तरह एक के तत्वों में इस लक्ष्य की उपलब्धि का सफाया हो जाएगा ।

एक उदाहरण के रूप में, बस कल्पना यातायात रोशनी, ऐ और मानव रहित वाहनों का प्रयास करने के लिए तेज मार्ग खोजने. हर कोई करता है, उनके कार्यों के लक्ष्य के साथ सबसे सुरक्षित और सबसे प्रभावी परिणाम के लिए कंपनियों.

के बावजूद "शिशु" साल DeepMind और की कमी के कारण किसी भी तृतीय-पक्ष के महत्वपूर्ण विश्लेषण अपनी क्षमताओं का परिणाम है, इसके परीक्षण का सुझाव निम्न विचार: यहां तक कि अगर हम बनाने के लिए, यह मतलब नहीं है कि रोबोट और ऐ प्रणाली स्वचालित रूप से डाल डाल करने की इच्छा हमारे मानव की जरूरत है अपने स्वयं के ऊपर. हम करने के लिए संयंत्र "दया" की प्रकृति में मशीनों और पूर्वानुमान करने के लिए किसी भी "खामियां" अनुमति दे सकता है कि उन्हें उन तक पहुँचने के लिए लेजर बीम.

मुख्य शोध करे की पहल समूह OpenAI अध्ययन करने के लिए, नैतिकता के कृत्रिम बुद्धि के रूप में कुछ में लग रहा था के रूप में 2015 इस प्रकार है:

"आज की ऐ सिस्टम के अधिकारी भयानक है, लेकिन अति विशिष्ट क्षमताओं की है । और सबसे अधिक संभावना है, हम अभी भी लंबे समय के लिए रखना होगा अपने में सुधार. कम से कम के रूप में लंबे समय के रूप में अपनी क्षमता को हल करने के लिए लगभग हर बौद्धिक चुनौतियों का सामना नहीं होगा की तुलना में अधिक मानव. यह मुश्किल है कल्पना करने के लिए क्या स्तर के लाभ आप लाने में सक्षम हो जाएगा करने के लिए एअर इंडिया, मानव-स्तरीय कंपनियों, के रूप में यह कल्पना करना मुश्किल है क्या यह नुकसान कर सकते हैं करने के लिए पैदा करते हुए समाज की उपेक्षा इसके निर्माण और उपयोग करें."