खिड़की के बाहर 2022. आप पर जाने के लिए एक स्वयं ड्राइविंग कार के रूप में हमेशा की तरह शहर में है । एक कार दृष्टिकोण बंद करो साइन इन करें, जो अतीत चलाई कई बार, लेकिन इस बार यह बंद हो जाता है उसके सामने. इस बंद हस्ताक्षर की तरह दूसरों. लेकिन कार के लिए यह बिल्कुल अलग है । कुछ मिनट पहले किसी को बताए बिना, हमलावर पर अटक साइन इन छोटे संकेत, अतीन्द्रिय मानव आंखों के लिए लेकिन जो नहीं कर सकते हैं नोटिस करने के लिए असफल प्रौद्योगिकी. है कि एक छोटे से स्टीकर पर संकेत दिया बंद हस्ताक्षर में पूरी तरह से अलग कुछ से बंद करो साइन इन करें.
यह सब अविश्वसनीय लग सकता है । लेकिन बढ़ते क्षेत्र के अनुसंधान साबित होता है कि कर सकते हैं कृत्रिम बुद्धि धोखा हो सकता है इस तरह, अगर आप कुछ छोटे से विस्तार, पूरी तरह से अदृश्य है मनुष्य के लिए. के रूप में मशीन सीखने एल्गोरिदम तेजी से कर रहे हैं प्रदर्शित होने पर, हमारी सड़कें, हमारे वित्त, हमारे स्वास्थ्य प्रणाली, कंप्यूटर वैज्ञानिकों को उम्मीद है जानने के लिए कैसे के बारे में अधिक से बचाने के लिए इसी तरह के हमलों से पहले — किसी मूर्ख करने के लिए उन्हें असली के लिए.
"यह एक बढ़ती चिंता का विषय के क्षेत्र में मशीन सीखने और एअर इंडिया समुदाय, क्योंकि विशेष रूप से इन एल्गोरिदम में इस्तेमाल कर रहे हैं और अधिक और अधिक कहते हैं," डैनियल परत, एसोसिएट प्रोफेसर के कंप्यूटर और सूचना विज्ञान विश्वविद्यालय में ओरेगन में. "यदि स्पैम गुजरता है या अवरुद्ध कई ईमेल नहीं है, यह दुनिया का अंत है. लेकिन अगर आप पर भरोसा विजन सिस्टम में स्वयं ड्राइविंग कार को बताता है कि कार कैसे ड्राइव करने के लिए कुछ में दुर्घटनाग्रस्त बिना, दरों में बहुत अधिक हो जाएगा."
परवाह किए बिना, कार टूट जाती है या समझौता किया है, यह दुख होगा मशीन सीखने एल्गोरिदम है कि "देख" की दुनिया है । और यहाँ है के लिए मशीन पांडा के लिए शुरू होता है की तरह लग रहे एक गिब्बन, और एक स्कूल बस की तरह शुतुरमुर्ग.
एक प्रयोग में, वैज्ञानिकों से फ्रांस और स्विट्जरलैंड में दिखाया है कि कैसे इन perturbations मजबूर कर सकते हैं कंप्यूटर करने के लिए गलती से ले गिलहरी ग्रे फॉक्स, और कॉफी पॉट के लिए एक तोता है.
यह कैसे संभव है? लगता है के बारे में कैसे एक बच्चे को पहचान करने के लिए सीखता संख्या है. पर देख रहे हैं अक्षर, एक-एक करके बच्चे को शुरू होता है नोटिस करने के लिए कुछ सामान्य लक्षण: कुछ लम्बे और slimmer, छह और नौ होते हैं, एक ही बड़ा पाश, और आठ — दो, और इतने पर । एक बार वे देखते हैं पर्याप्त उदाहरण के लिए, वे कर सकते हैं जल्दी से नई पहचान संख्या में चौके, आठ या threes — भले ही फ़ॉन्ट या लिखावट वे नहीं होगा वास्तव में एक ही देखो के रूप में किसी भी अन्य चौके, आठ, या threes, वे पहले कभी देखा है ।
मशीन सीखने एल्गोरिदम जानने के लिए पढ़ने के लिए दुनिया के माध्यम से एक कुछ हद तक इसी तरह की प्रक्रिया है । वैज्ञानिकों ने एक कंप्यूटर के सैकड़ों या हजारों के लिए (आमतौर पर के रूप में चिह्नित) उदाहरण के लिए वे क्या चाहते पता लगाने के लिए कंप्यूटर पर । जब मशीन sifts डेटा की एक संख्या है, यह नहीं है, यह एक संख्या है कि नहीं है — वह शुरू होता है नोटिस करने के लिए सुविधाओं है कि नेतृत्व करने के लिए जवाब है । जल्द ही वह पर देख सकते हैं एक तस्वीर और कहते हैं, "यह पाँच!" उच्च सटीकता के साथ.
इस प्रकार, मानव के रूप में बच्चों को, और कंप्यूटर सीख सकते हैं पहचान करने के लिए वस्तुओं की एक बड़ी संख्या, संख्या से बिल्लियों के लिए, नावों से अलग करने के लिए मानव संस्थाओं.
लेकिन, के विपरीत, बच्चे की एक मानव और कंप्यूटर का भुगतान नहीं करने के लिए ध्यान से विवरण उच्च स्तर की तरह प्यारे कान बिल्लियों की या विशिष्ट कोणीय आकार के चार. वह नहीं पूरी तस्वीर देखते हैं.
इसके बजाय, वह पर लग रहा है, व्यक्तिगत पिक्सल की छवि — और सबसे तेजी से रास्ता साझा करने के लिए वस्तुओं. अगर विशाल बहुमत की इकाइयों होगा एक काले पिक्सेल का एक खास बिंदु पर और कुछ सफेद पिक्सल अन्य स्थानों पर मशीन जल्दी से सीखना होगा निर्धारित करने के लिए कई पिक्सल है.
अब वापस करने के लिए बंद करो साइन इन करें. सावधानी से समायोजन की छवि के पिक्सल — विशेषज्ञों का यह हस्तक्षेप "perturbations" — तुम मूर्ख कर सकते हैं कंप्यूटर और आपको लगता है कि बंद हस्ताक्षर है, वास्तव में, नहीं.
इसी तरह के अध्ययन में किया जाता है, प्रयोगशाला के विकास में कृत्रिम बुद्धि के विश्वविद्यालय के व्योमिंग और कॉर्नेल विश्वविद्यालय बना दिया है, काफी एक बहुत कुछ ऑप्टिकल भ्रम के लिए कृत्रिम बुद्धि है । इन साइकेडेलिक छवियों के सार पैटर्न और रंग कोई अन्य की तरह लोगों के लिए, लेकिन जल्दी से कंप्यूटर द्वारा मान्यता प्राप्त के रूप में सांप या राइफल है । यह वार्ता के बारे में कैसे ऐ देखो कर सकते हैं पर कुछ और नहीं देखने की वस्तु है, या देखने के लिए के बजाय कुछ और ही है.
इस कमजोरी में प्रचलित है के सभी प्रकार के लिए मशीन सीखने एल्गोरिदम. "आप उम्मीद करेंगे कि एक एल्गोरिथ्म है एक झनझन कवच में कहते हैं," येवगेनी vorobeichik, एसोसिएट प्रोफेसर के कंप्यूटर विज्ञान Vanderbilt विश्वविद्यालय में है. "हम रहते हैं में एक बहुत ही जटिल बहुआयामी दुनिया है, और एल्गोरिदम, उनके स्वभाव से, प्रभावित केवल एक छोटा सा हिस्सा है."
Vorobeichik, "बिल्कुल यकीन है कि" अगर इन कमजोरियों मौजूद हैं, किसी को होगा बाहर आंकड़ा कैसे करने के लिए उन्हें का उपयोग करें. शायद किसी ने पहले से ही यह किया है.
पर विचार स्पैम फिल्टर, स्वचालित कार्यक्रमों को खत्म करने कि किसी भी अजीब ई-मेल. Spammers हो सकता है की कोशिश को नाकाम करने के लिए इस बाधा को बदलने के द्वारा शब्दों की वर्तनी (के बजाय वियाग्रा VI@gra) या जोड़ने के द्वारा एक सूची के "अच्छा" शब्दों है कि आमतौर पर पाया सामान्य में पत्र की तरह "हाँ", "मुझे", "खुश" है । इस बीच, spammers की कोशिश कर सकते हैं दूर करने के लिए दिखाई देते हैं कि शब्द अक्सर स्पैम में, इस तरह के रूप में "मोबाइल" या "जीत"है.
क्या चल सकते हैं scammers के एक दिन में? स्व-ड्राइविंग कार, द्वारा धोखा स्टीकर पर बंद हस्ताक्षर-एक क्लासिक स्क्रिप्ट का आविष्कार किया गया था कि विशेषज्ञों द्वारा मेंइस क्षेत्र में. अतिरिक्त डेटा मदद कर सकते हैं करने के लिए अश्लील साहित्य के माध्यम से पर्ची सुरक्षित फिल्टर. दूसरों की कोशिश कर सकते हैं की संख्या बढ़ाने के लिए जाँच करता है । हैकर्स tweak कर सकते हैं कोड के दुर्भावनापूर्ण सॉफ्टवेयर से बचने के लिए कानून प्रवर्तन.
Violators समझ सकते हैं कैसे बनाने के लिए डेटा पारित, तो आप एक प्रतिलिपि प्राप्त की मशीन सीखने कलन विधि है, जो धोखा करना चाहते हैं. लेकिन प्राप्त करने के लिए एल्गोरिथ्म के माध्यम से, यह आवश्यक नहीं है । आप कर सकते हैं, बस इसे तोड़ने के जानवर बल के साथ फेंक, उसे थोड़ा अलग संस्करणों के ई-मेल या छवियों जब तक वे गुजरती हैं. समय के साथ, यह भी कर सकते हैं इस्तेमाल किया जा के लिए एक पूरी तरह से नए मॉडल है, जो कि पता चल जाएगा के लिए देख रहे हैं अच्छे लोग, और क्या क्रम में करने के लिए उन्हें धोखा देने के लिए.
"लोगों में हेरफेर मशीन सीखने प्रणालियों के बाद से वे थे के रूप में प्रस्तुत पहली बार के लिए," ने कहा कि पैट्रिक McDaniel, प्रोफेसर, कंप्यूटर विज्ञान और इंजीनियरिंग के पेन्सिलवेनिया विश्वविद्यालय में है. "अगर लोगों को कर रहे हैं इन तरीकों का उपयोग कर, हम कर सकते हैं, यहां तक कि इसके बारे में पता नहीं है."
इन तरीकों से लाभ प्राप्त कर सकते हैं न केवल घोटाले से — लोगों से बच सकते हैं एक्स-रे आँखों के आधुनिक प्रौद्योगिकी के साथ ।
"यदि आप कर रहे हैं कुछ प्रकार की राजनीतिक असंतुष्ट में एक दमनकारी शासन और पकड़ करना चाहते हैं घटनाओं के ज्ञान के बिना सुरक्षा सेवाओं के लिए, आप की आवश्यकता हो सकती परिहार स्वत: अवलोकन पर आधारित तकनीक की मशीन सीखने," कहते हैं परत.
परियोजनाओं में से एक में, अक्टूबर में प्रकाशित, शोधकर्ताओं ने विश्वविद्यालय से कार्नेगी — मेलॉन बनाया चश्मे की एक जोड़ी है कि कर सकते हैं आसानी से गुमराह चेहरे की पहचान प्रणाली है, जिससे कंप्यूटर के लिए गलती से ले लो अभिनेत्री रीज़ विदरस्पून के लिए रसेल क्रो. यह हास्यास्पद लगता है, लेकिन इस प्रौद्योगिकी के लिए उपयोगी हो सकता है, जो किसी को सख्त करने की कोशिश कर रहा से बचने सेंसरशिप के हिस्से पर उन लोगों में शक्ति है.
के साथ क्या करना है यह सब? "करने के लिए एकमात्र तरीका है इस से बचने के लिए बनाने के लिए एक आदर्श मॉडल होना करने के लिए हमेशा सही कहते हैं," परत. यहां तक कि अगर हम पैदा कर सकता है कि कृत्रिम बुद्धि के पार होगा मनुष्य सभी मामलों में, दुनिया अभी भी पर्ची करने में सक्षम एक सुअर में एक अप्रत्याशित जगह है.
मशीन सीखने एल्गोरिदम आमतौर पर मूल्यांकन के अनुसार उनकी सटीकता. कार्यक्रम पहचानता है, जो कुर्सियों मामलों के 99% में स्पष्ट रूप से बेहतर है की तुलना में एक को पहचानता है जो 6 से 10 कुर्सियों. लेकिन कुछ विशेषज्ञों की पेशकश के लिए एक और रास्ता की क्षमता का आकलन एल्गोरिथ्म के हमले से निपटने के लिए और अधिक हिंसक, बेहतर है.
एक और समाधान में झूठ बोल सकती है कि इस तथ्य के विशेषज्ञों पूछ सकते कार्यक्रमों विशिष्ट दर है । बनाने के अपने स्वयं के उदाहरण के हमलों की प्रयोगशाला में, क्षमताओं के आधार पर अपराधियों की अपनी राय है, तो उन्हें दिखाने के मशीन सीखने एल्गोरिथ्म । यह मदद कर सकता है उसे अधिक टिकाऊ हो समय के साथ — पाठ्यक्रम के प्रदान की है कि परीक्षण पर हमला किया जाएगा का एक प्रकार है, जो में परीक्षण किया जाएगा.
"मशीन लर्निंग सिस्टम — एक उपकरण को समझने के लिए. हम की जरूरत है होना करने के लिए उचित और तर्कसंगत के संबंध में क्या हम उन्हें दे और वे क्या हमें बताओ," ने कहा कि McDaniel. "हम नहीं करना चाहिए, उन्हें इलाज के रूप में सही भविष्यवाणी की सच्चाई है."
अधिक:
डिस्लेक्सिया क्या है और इसे कैसे ठीक किया जा सकता है?
Dyslexia affects about 10% of the world's population There are many diseases in the world that are associated with disorders of the brain and spinal cord, as well as various groups of nerves. These diseases are called neurological disorders and one o...
सबसे तेजी से विमान दुनिया में और अपने प्रतियोगियों. गति के साथ जो वे के लिए उड़ान भरने
इस डिजाइन की संभावना नहीं है करने के लिए उड़ान भरने की गति के साथ कई हजार किलोमीटर प्रति घंटे की है । इस की आवश्यकता है अन्य विशेषताओं. आधुनिक विमान उड़ान भरने कर सकते हैं बहुत तेजी से. के तहत «जल्दी» मैं यह समझ में नहीं है, गति 10 गुना तेज...
पहली समीक्षा: कितनी तेजी से उपग्रह इंटरनेट का स्टारलिंक से एलोन मस्क?
इंटरनेट में दिखाई दिया पहली पर समीक्षा प्रदाता स्टारलिंक अमेरिकी उद्यमी एलोन मस्क (एलोन मस्क) सौदों के साथ न केवल के निर्माण इलेक्ट्रिक कारों और spaceships. 2015 में, वह बनाया कंपनी स्टारलिंक, जो करने के उद्देश्य से है सुनिश्चित करने के लिए इंटरनेट क...
संबंधित समाचार
रूस में उत्पादन शुरू होता है के साथ एक अद्वितीय व्हीलचेयर-ट्रांसफार्मर
प्रेस सेवा के रूप में होल्डिंग "Schwabe", कंपनी के उत्पादन शुरू हो जाएगा व्हीलचेयर-ट्रांसफार्मर में सक्षम है, पर काबू पाने के लिए पहले दुर्गम बाधाओं के पाठ्यक्रम पर ट्रैक रॉड और उच्च गति आंदोलन. घरेलू के विकास में वैज्ञानिकों के ...
जल्द ही हम वास्तव में पता चल जाएगा जहां लापता विमान
इस माह के निशान के तीन साल के बाद से तो, के रूप में रहस्यमय तरीके से गायब हो गया उड़ान 370 की मलेशियन एयरलाइंस है । 8 मार्च को एक उड़ान के दौरान मलेशिया से चीन के लिए विमान से भटक योजना बनाई मार्ग और चला गया से परे तक पहुँचने के र...
#समाचार उच्च तकनीक | के मुद्दे 184
हर सोमवार के नए अंक में «समाचार उच्च तकनीक» हम संक्षेप में प्रस्तुत पिछले सप्ताह, के बारे में बात कर के कुछ सबसे महत्वपूर्ण घटनाओं, महत्वपूर्ण खोजों और आविष्कारों में से एक. इस समय हम पर ध्यान दिया जाएगा, दुनिया की पहली ...
जर्मनी में, सफलतापूर्वक पूरा कर लिया है परीक्षण के पनडुब्बी प्रणाली ऊर्जा भंडारण
सहेजें प्राप्त ऊर्जा के लिए बाद में उपयोग — एक बहुत ही होनहार क्षेत्र के ऊर्जा उद्योग के विकास । सरल तरीकों में से एक है भंडारण के द्वारा ऊर्जा पंप जलाशय के ऊपर स्थित टरबाइन जनरेटर, सामान्य पानी. तरल पंप है चोटी के दौरान कम ...
एटी एंड टी के लिए करना चाहता है ड्रोन का उपयोग के रूप में सेल टावरों
के निर्माण के नए संचार टावरों — एक लंबी प्रक्रिया है । इसके अलावा, यह जटिल हो सकता है और देरी की वजह से प्रतिकूल मौसम की स्थिति या परिदृश्य है । विकास के बावजूद, प्रौद्योगिकी के कई इलाकों के हमारे ग्रह अभी भी रहने के बिना सा...
नॉर्वे की योजना का निर्माण करने के लिए दुनिया का पहला शिपिंग सुरंग
नार्वे सागर Stadhavet से एक माना जाता है सबसे खतरनाक इस क्षेत्र में. यहां तक कि वाइकिंग्स इस जगह को चुना करने के लिए एक पार्टी या खींचने के लिए अपनी नाव पर भूमि है, लेकिन पार नहीं होता खतरनाक पानी तैरने के लिए । सागर तूफान Stadhav...
जापान और संयुक्त राज्य अमेरिका पर काम कर रहे हैं बनाने के एक प्रेषण सेवा के लिए ड्रोन
एक संख्या हमारे सिर के ऊपर हो गया है तेजी से हाल के वर्षों में. ड्रोन तस्वीरें ले, वीडियो शूट, वे उद्धार और बाहर ले जाने के खेल. के विचार की रचना भेजने सेवा, आंदोलन को नियंत्रित करने के ड्रोन हवाई क्षेत्र में उभरा है लंबे समय पर्य...
शब्द "तंत्रिका नेटवर्क" आज से एक है सबसे फैशनेबल शब्दों के साथ, और अक्सर वे दुरुपयोग कर रहे हैं द्वारा बाजार को बढ़ावा देने में उनकी तकनीक startups । हालांकि, यह निर्विवाद है कि आज की वस्तु के हमारे विचार में से एक है सबसे महत्वपू...
#समाचार उच्च तकनीक | मुद्दे 183
हर सोमवार के नए अंक में «समाचार उच्च तकनीक» हम संक्षेप में प्रस्तुत पिछले सप्ताह, के बारे में बात कर के कुछ सबसे महत्वपूर्ण घटनाओं, महत्वपूर्ण खोजों और आविष्कारों में से एक. इस बार हम बात करेंगे के बारे में चीनी चंद्र का...
अद्वितीय है कि में रहेगा, लोगों को कुछ दशकों में?
कुछ दशकों के बाद, कृत्रिम बुद्धि को पार करेंगे हमें कई क्षेत्रों में है कि हम पर विचार विशेष के लिए अपने आप को. यह एक बड़ी चुनौती के लिए, हमारी उम्र कहते हैं शोधकर्ता विक्टर मेयर-Schönberger, जो आवश्यकता हो सकती है "तर्कहीन" प्रति...
सीमेंस मुद्रित पर एक 3 डी प्रिंटर विस्तार से परमाणु ऊर्जा संयंत्रों के लिए
दुनिया का पहला गौण डिजाइन परमाणु बिजली स्टेशन के लिए, मुद्रित और के द्वारा स्थापित सीमेंस में स्लोवेनिया है. पर अब एनपीपी डॉबर्ना एक पूरी तरह कार्यात्मक प्ररित करनेवाला अग्निशमन पंप, का उपयोग कर बनाया 3 डी प्रिंटिंग तकनीक है । प...
स्मार्ट टैटू के साथ इलेक्ट्रोड. कदम की दिशा में रोबोटिक्स के एक व्यक्ति या एक सनक?
की तरह लग रहे हो एक स्मार्ट टैटू अगले कुछ वर्षों में हो जाएगा, यदि नहीं, आम की तरह स्मार्ट देखता है, यह निश्चित रूप से एक बहुत लोकप्रिय प्रवृत्ति के क्षेत्र में. हाल ही में हम ने लिखा है कि जापान में , और अब दिखाई दिया है कि जानका...
क्यों नैतिक समस्या सबसे गंभीर कृत्रिम बुद्धि के लिए
कृत्रिम बुद्धि में है पहले से ही हर जगह और हर जगह रहते हैं. हमारे जीवन के कई पहलुओं में एक डिग्री या किसी अन्य के लिए संबंधित कृत्रिम बुद्धि: वह फैसला क्या किताबें खरीदने के लिए, क्या टिकट के लिए उड़ान के क्रम में कैसे सफल प्रस्तु...
पहली नज़र में परिवहन प्रणाली की नई पीढ़ी के Hyperloop एक
Hyperloop कंपनी के एक से पता चला की कुछ तस्वीरें के निर्माण के लिए एक परीक्षण बिस्तर दुनिया की पहली Hyperloop परिवहन प्रणाली, विधानसभा में वर्तमान में चल रहा है में नेवादा रेगिस्तान है । लॉस एंजिल्स स्टार्टअप कई में से एक है, जो क...
चीन ने बनाया दुनिया का सबसे बड़ा प्रायोगिक 5G नेटवर्क
के रूप में द्वारा की सूचना दी समाचार एजेंसी «सिन्हुआ», चीन की राजधानी बीजिंग Huairou जिला, बनाया दुनिया का सबसे बड़ा प्रयोगात्मक नेटवर्क के मोबाइल प्रौद्योगिकी मानक 5G. में स्थापना पर काम के नेटवर्क में शामिल थे, अग्रणी ...
#समाचार उच्च प्रौद्योगिकी | मात्रा 182
हर सोमवार के नए अंक में «समाचार उच्च तकनीक» हम संक्षेप में प्रस्तुत पिछले सप्ताह, के बारे में बात कर के कुछ सबसे महत्वपूर्ण घटनाओं, महत्वपूर्ण खोजों और आविष्कारों में से एक. इस समय हम पर ध्यान दिया जाएगा के निर्माण के Hy...
कंपनी PassivDom शुरू कर दिया मुद्रण पूरी तरह से स्वायत्त घर पर एक 3 डी प्रिंटर
घर पर है कि प्रिंट में एक यूक्रेनी कंपनी से प्राप्त एक पूरी तरह से स्वायत्त और «स्मार्ट», तो जीवन के लिए, आप चुन सकते हैं किसी भी जगह है । स्टार्टअप का कहना है कि कंपनी का उत्पादन स्वायत्त स्व-सीखने मॉड्यूलर घरों रहे हैं...
Hyperloop में दिखाई दे सकता है भारत
कंपनी Hyperloop परिवहन प्रौद्योगिकियों पहले से परामर्श के साथ राज्य आयोगों के चेक गणराज्य, स्लोवाकिया और संयुक्त अरब अमीरात और चर्चा के निर्माण के एक नए परिवहन प्रणाली के क्षेत्र पर इन देशों में, और अब, ऐसा लगता है, विकसित करने के...
#समाचार उच्च तकनीक | मुद्दे 181
हर सोमवार के नए अंक में «समाचार उच्च तकनीक» हम संक्षेप में प्रस्तुत पिछले सप्ताह, के बारे में बात कर के कुछ सबसे महत्वपूर्ण घटनाओं, महत्वपूर्ण खोजों और आविष्कारों में से एक. इस बार यह हो जाएगा के बारे में एक कार्गो ड्रोन...
#प्रीमियर: यह कैसे काम करता है? | सौर बैटरी
आज हम आपका ध्यान करने के लिए हमारी नई परियोजना — वैज्ञानिक शैक्षिक कार्यक्रम «यह कैसे काम करता है?». में पायलट प्रकरण में, हम के बारे में बात सौर पैनलों: यह कैसे काम करता है, क्या सामग्री है और क्या यह दक्षता. सुखद...
टिप्पणी (0)
इस अनुच्छेद है कोई टिप्पणी नहीं, सबसे पहले हो!