हत्यारा रोबोट? बंद करो, यहां तक कि सबसे अच्छा रोबोट कर रहे हैं, अप्रत्याशित आतंक के लिए

सिर के सौ से अधिक अग्रणी कंपनियों के क्षेत्र में कृत्रिम बुद्धि के बारे में बहुत चिंतित है के विकास के "हत्यारा रोबोट". एक खुले पत्र में संयुक्त राष्ट्र के लिए ये व्यापार जगत के नेताओं सहित एलोन मस्क टेस्ला के और के संस्थापकों में गूगल DeepMind, चेतावनी दी है कि प्रौद्योगिकी के उपयोग के स्वायत्त हथियार से ले जाया जा सकता आतंकवादियों और despots, या डिग्री बदलती में काट दिया जाएगा.

लेकिन असली खतरा बहुत अधिक गंभीर है – और यह है न केवल मानव व्यवहार, लेकिन यह भी इंजन में. अध्ययन की जटिल प्रणाली से पता चलता है कि वे व्यवहार कर सकते हैं और अधिक अप्रत्याशित है की तुलना में यह निष्कर्ष निकाला जा सकता है की राशि से अलग-अलग कार्यों. एक हाथ पर इसका मतलब यह है कि मानव समाज में व्यवहार कर सकते हैं में एक पूरी तरह से अलग तरह से आप की उम्मीद हो सकता है, व्यवहार का अध्ययन व्यक्तियों की है । दूसरे हाथ पर, यह भी लागू होता है के लिए प्रौद्योगिकी. यहां तक कि पारिस्थितिकी तंत्र सरल कृत्रिम बुद्धि कार्यक्रम – जो हम कॉल बेवकूफ, अच्छा बॉट हमें आश्चर्य कर सकते हैं. यहां तक कि अलग-अलग bots व्यवहार कर सकते हैं बुरी तरह.

अलग-अलग आइटम शामिल है कि जटिल प्रणालियों में इस तरह के रूप में आर्थिक बाजार या वैश्विक मौसम, नहीं करते हैं, बातचीत करने के लिए एक सरल रेखीय तरीका है । यह इन प्रणालियों के लिए बहुत मुश्किल मॉडल और समझते हैं । उदाहरण के लिए, यहां तक कि अनुसंधान के वर्षों के बाद जलवायु यह असंभव है भविष्यवाणी करने के लिए लंबी अवधि के व्यवहार का मौसम है । इन प्रणालियों रहे हैं करने के लिए इतना संवेदनशील छोटी से छोटी परिवर्तन में कैसे विस्फोटक वे प्रतिक्रिया. यह बहुत मुश्किल है पता करने के लिए सटीक राज्य में एक ऐसी प्रणाली के एक खास बिंदु पर है । यह सब बनाता है इन प्रणालियों आंतरिक रूप से अप्रत्याशित.

इन सब के सिद्धांतों को लागू करने के लिए लोगों के बड़े समूहों के अभिनय के अपने तरीके में, यह मानव समाज या समूह के बॉट के साथ कृत्रिम बुद्धि । हाल ही में, वैज्ञानिकों के अध्ययन के प्रकार के एक जटिल प्रणाली है, जो अच्छी बॉट का इस्तेमाल कर रहे हैं करने के लिए स्वचालित रूप से संपादित लेख विकिपीडिया पर हैं । इन विभिन्न बॉट तैयार कर रहे हैं, लिखित और के द्वारा इस्तेमाल किया विश्वसनीय विकिपीडिया के संपादकों और उनके अंतर्निहित सॉफ्टवेयर खुला स्रोत है और हर किसी के लिए उपलब्ध है । व्यक्तिगत रूप से, वे एक आम लक्ष्य में सुधार करने के लिए विश्वकोश है । हालांकि, उनके सामूहिक व्यवहार बदल गया है बाहर किया जा करने के लिए आश्चर्यजनक रूप से अप्रभावी है.

इन बोट्स के साथ विकिपीडिया कर रहे हैं अच्छी तरह से स्थापित नियमों और परंपराओं के बाद से, लेकिन वेब साइट में कोई केंद्रीय नियंत्रण प्रणाली के साथ, वहाँ कोई प्रभावी समन्वय के लोगों के बीच चल रहा है अलग अलग bots. परिणाम से पता चला की एक जोड़ी bots, जो कई वर्षों के लिए रद्द कर दिया था संपादन के लिए एक दूसरे को और कोई नहीं देखा. और, ज़ाहिर है, क्योंकि इन बॉट नहीं कर सकते हैं जानने के लिए, वे ध्यान नहीं दिया.

इन बॉट कर रहे हैं गति के लिए डिज़ाइन संपादन की प्रक्रिया है । लेकिन छोटे मतभेदों में डिजाइन के बीच बॉट या लोगों है कि, उन का उपयोग कर सकते हैं नेतृत्व करने के लिए बड़े पैमाने पर संसाधनों की बर्बादी में चल रहे "युद्ध के लिए संपादित करें" है, जो हल किया जाएगा के साथ बहुत तेजी से मदद के संपादक हैं.

शोधकर्ताओं ने यह भी पाया है कि बॉट अलग ढंग से व्यवहार में अलग अलग भाषा के संस्करणों में विकिपीडिया. नियम, यह प्रतीत होता है, लगभग एक ही है, लक्ष्यों के समान हैं, प्रौद्योगिकी के समान है । लेकिन में जर्मन विकिपीडिया बॉट सहयोग था और अधिक कुशल और उत्पादक की तुलना में, उदाहरण के लिए, में पुर्तगाली. यह कर सकते हैं केवल द्वारा समझाया जा सकता है के बीच मतभेद संपादकों-में लोगों के आरोप ये बॉट अलग अलग वातावरण में.

घातीय भ्रम

बॉट विकिपीडिया व्यापक स्वायत्तता और सिस्टम काम कर रहा है के अनुसार प्रयोजनों के लिए अलग-अलग bots. लेकिन विकिमीडिया फाउंडेशन की योजना का उपयोग करने के लिए एअर इंडिया को दे देंगे कि अधिक स्वायत्तता के लिए इन बोट्स. और यह संभावना करने के लिए नेतृत्व और भी अधिक अप्रत्याशित व्यवहार ।

का एक अच्छा उदाहरण क्या हो सकता है, पता चला बॉट बनाया है, बात करने के लिए लोगों को जब वे थे करने के लिए मजबूर एक दूसरे के साथ संवाद. हम नहीं रह रहे हैं जवाब से आश्चर्य के निजी सहायक सिरी की तरह है । लेकिन उन्हें एक दूसरे के साथ संवाद और वे जल्दी से शुरू करने के लिए व्यवहार में अप्रत्याशित तरीके से बहस करने के लिए, और यहां तक कि दूसरे का अपमान है.

और अधिक के साथ प्रणाली में हो जाता है और अधिक स्वायत्त प्रत्येक बीओटी हो जाता है, और अधिक जटिल और अप्रत्याशित हो जाएगा भविष्य के व्यवहार की व्यवस्था की है । विकिपीडिया का एक उदाहरण है काम की एक बड़ी संख्या के अपेक्षाकृत सरल बॉट । उदाहरण के चैट बॉट है की एक उदाहरण की एक छोटी संख्या अपेक्षाकृत परिष्कृत और सरल बॉट – दोनों ही मामलों में, वहाँ रहे हैं अप्रत्याशित संघर्ष. जटिलता और इसलिए अनिश्चितता तेजी से बढ़ने के रूप में आप जोड़ने की व्यवस्था करने के लिए व्यक्तित्व. तो जब भविष्य में वहाँ हो जाएगा प्रणालियों की एक बड़ी संख्या के साथ बहुत जटिल रोबोट, अनिश्चितता के लिए उन्हें जाना होगा, हमारी कल्पना से परे है ।

प्रज्वलन पागलपन

आत्म-ड्राइविंग कारों, उदाहरण के लिए, वादा करने के लिए एक सफलता बनाने में दक्षता और सड़क सुरक्षा है । लेकिन हम अभी भी पता नहीं है क्या होता है जब हम अधिक जंगली सिस्टम पूरी तरह से स्वायत्त कारों । वे हो सकता है अलग ढंग से व्यवहार के भीतर भी एक छोटे बेड़े के अलग-अलग वाहनों में एक नियंत्रित वातावरण. और भी अधिक अप्रत्याशित व्यवहार हो सकता है जब स्वयं ड्राइविंग कारों, "प्रशिक्षित" अलग अलग लोगों द्वारा अलग-अलग स्थानों में शुरू हो जाएगा करने के लिए एक दूसरे के साथ बातचीत.

लोगों को अनुकूलित कर सकते हैं करने के लिए नए नियमों और समझौतों अपेक्षाकृत जल्दी है, लेकिन मुश्किल करने के लिए स्विच प्रणालियों के बीच है । कृत्रिम एजेंटों और भी कठिन हो सकता है । उदाहरण के लिए, यदि "प्रशिक्षित" जर्मनी में कार में, उदाहरण के लिए इटली जाने के लिए, हम नहीं जानते कि कैसे वह सीखना होगा अलिखित सांस्कृतिक समझौता है, जो है के द्वारा पीछा कई अन्य "प्रशिक्षित" इटली में कारों. कुछ सांसारिक तरह चौराहे को पार किया जा सकता है प्राणघातक जोखिम भरा है, क्योंकि हम अभी पता नहीं है कि क्या मशीन बातचीत करने के लिए ठीक से, या करने के लिए शुरू हो उठते व्यवहार करते हैं.

अब के बारे में सोच हत्यारा रोबोट है कि परेशान कर रहे हैं और उनके सहयोगियों. एक हत्या की मशीन बहुत खतरनाक हो सकता है गलत हाथों में है । और सिस्टम अप्रत्याशित हत्यारा रोबोट? खुद के लिए लगता है.