कैसे तंत्रिका नेटवर्क?

पिछले 10 वर्षों में, के कारण की विधि तथाकथित गहरी सीखने के लिए, हम सबसे अच्छा कृत्रिम खुफिया प्रणाली — उदाहरण के लिए, वाक् recognizers smartphones पर या नवीनतम स्वत: अनुवादक गूगल. गहरी सीखने, वास्तव में, बन गया है एक नई प्रवृत्ति में पहले से ही जाना जाता है, तंत्रिका नेटवर्क, जो प्रचलन में थे, और पर चला गया के लिए अधिक से अधिक 70 साल है । पहली बार के लिए तंत्रिका नेटवर्क का प्रस्ताव वॉरेन McCullough और वाल्टर पिट्स 1994 में, दो शोधकर्ताओं ने शिकागो विश्वविद्यालय से. 1952 में वे करने के लिए चला गया काम पर मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी, नींव रखना करने के लिए पहली बार के लिए संज्ञानात्मक विज्ञान विभाग.

तंत्रिका नेटवर्क में से एक थे मुख्य दिशाओं में अध्ययन के तंत्रिका जीव विज्ञान और कंप्यूटर विज्ञान 1969 तक, जब पौराणिक कथा के अनुसार, मारे गए गणित के मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी मारविन Minsky और Seymour Papert, जो एक साल में बन गया co-प्रबंधकों के नए कृत्रिम खुफिया प्रयोगशाला, एमआईटी.

के पुनरुद्धार के लिए इस विधि का अनुभव किया है, 1980 के दशक में, थोड़ा फीका के पहले दशक में नई सदी के साथ धूमधाम से वापस दूसरा, के शिखर पर एक अविश्वसनीय विकास के ग्राफिक्स चिप्स और प्रसंस्करण शक्ति है.

"यह माना जाता है कि विचार के विज्ञान के रूप में महामारी के वायरस ने कहा," Tomaso Poggio के एक प्रोफेसर संज्ञानात्मक विज्ञान और मस्तिष्क विज्ञान के एमआईटी में है । "वहाँ है, जाहिर है, पांच या छह प्रमुख उपभेदों फ्लू के वायरस, और उनमें से एक के साथ देता है, आश्चर्य की बात आवृत्ति में 25 साल है । लोगों को संक्रमित, प्रतिरक्षा बनने के लिए और बीमार नहीं मिलता अगले 25 साल है । तो फिर वहाँ है एक नई पीढ़ी तैयार है, से संक्रमित होने के लिए एक ही तनाव का वायरस है । विज्ञान के क्षेत्र में, लोगों को प्यार में गिर जाते हैं विचार के साथ, यह हर कोई पागल है, तो मौत को पीटा और प्रतिरक्षा बनने के लिए यह है — मैं के थक गए हो । विचार किया जाना चाहिए करने के लिए समान आवृत्ति".

वजनदार मुद्दों

तंत्रिका नेटवर्क की एक विधि मशीन सीखने, जहां कंप्यूटर सीखता प्रदर्शन करने के लिए कुछ कार्यों का विश्लेषण, प्रशिक्षण उदाहरण है । एक नियम के रूप में, इन उदाहरणों में चिह्नित कर रहे हैं मैन्युअल रूप से अग्रिम में. प्रणाली है, वस्तु की पहचान, उदाहरण के लिए, अवशोषित कर सकते हैं के हजारों लेबल छवियों के साथ कारों, घरों, कॉफी के कप और बहुत आगे है, और फिर में सक्षम हो जाएगा खोजने के लिए दृश्य चित्र में इन छवियों है कि लगातार के साथ सहसंबंधी विशिष्ट लेबल.

एक तंत्रिका नेटवर्क की तुलना में अक्सर है, जो मानव मस्तिष्क में भी इस तरह के नेटवर्क से मिलकर, हजारों या लाखों लोगों के सरल प्रसंस्करण नोड्स है कि बारीकी से जुड़े हुए हैं. सबसे आधुनिक तंत्रिका नेटवर्क में व्यवस्थित कर रहे हैं की परतों नोड्स, और डेटा उन के माध्यम से पारित केवल एक ही दिशा में है । एक अलग नोड के साथ जुड़ा हो सकता एकाधिक नोड्स में यह नीचे की परत है, जिसमें से यह प्राप्त डेटा और एकाधिक नोड्स में परत के ऊपर है, जो में यह डेटा भेजता है.

प्रत्येक इन आने वाली लिंक नोड के एक नंबर प्रदान करती है — "वजन" है । जब नेटवर्क सक्रिय है, नोड प्राप्त करता है, अलग-अलग डेटा सेट — अलग नंबरों में से प्रत्येक के लिए इन यौगिकों और पलता द्वारा इसी वजन. यह तो रकम परिणाम के रूप में एक ही नंबर. यदि यह संख्या एक सीमा से नीचे, नोड नहीं करता है, डाटा संचारित करने के लिए अगले परत है । यदि संख्या सीमा से अधिक है, के लिए नोड "सक्रिय" भेजने के द्वारा संख्या का योग है — भारित इनपुट डेटा पर सभी जावक कनेक्शन के लिए ।

जब तंत्रिका नेटवर्क गाड़ियों, वजन और थ्रेसहोल्ड के शुरू में यादृच्छिक पर सेट किया. प्रशिक्षण डेटा में प्रदान की जाती है निचली परत — इनपुट, और के माध्यम से पारित अगले परतों stacking और गुणा में एक जटिल तरीके से, जब तक वे अंत में आने, पहले से ही में तब्दील हो, उत्पादन में परत. प्रशिक्षण के दौरान वजन और थ्रेसहोल्ड लगातार कर रहे हैं समायोजित जब तक प्रशिक्षण डेटा के साथ एक ही लेबल नहीं देना होगा, इसी तरह के निष्कर्ष.

मन और मशीनों

तंत्रिका नेटवर्क के द्वारा वर्णित हैं McCullough और पिट्स 1944 में था, और थ्रेसहोल्ड और वजन, लेकिन नहीं थे, संगठित परतों में है, और वैज्ञानिकों पूछ नहीं है किसी भी विशिष्ट सीखने तंत्र है । लेकिन McCullough और पिट्स से पता चला है कि तंत्रिका नेटवर्क सकता है, सिद्धांत रूप में, किसी भी गणना समारोह की तरह किसी भी डिजिटल कंप्यूटर है । परिणाम के तंत्रिका विज्ञान की तुलना में कंप्यूटर विज्ञान: यह जरूरी हो गया था कि ग्रहण करने के लिए मानव मस्तिष्क देखा जा सकता है के रूप में एक कंप्यूटिंग डिवाइस है ।

तंत्रिका नेटवर्क जारी रखने के लिए एक महत्वपूर्ण उपकरण होने के लिए neurobiological पढ़ाई. उदाहरण के लिए, अलग-अलग परतों के नेटवर्क नियम या सेटिंग्स के भार और थ्रेसहोल्ड reproduced मनाया सुविधाओं के मानव neuroanatomy और संज्ञानात्मक कार्यों, और इस तरह छुआ पर कैसे मस्तिष्क जानकारी प्रक्रियाओं.

पहली trainable तंत्रिका नेटवर्क, "Perceptron" (या "Perceptron"), द्वारा दिखाया गया है कॉर्नेल विश्वविद्यालय के मनोवैज्ञानिक फ्रैंक रोज़ेनब्लाट में 1957. के डिजाइन "Perceptron" इसी तरह की थी करने के लिए आधुनिक तंत्रिका नेटवर्क, सिवाय इसके कि यह था एक परत के साथ समायोज्य वजन और थ्रेसहोल्ड इनपुट और आउटपुट के बीच परतों में है.

"Perceptrons" थे, सक्रिय रूप से अध्ययन में मनोविज्ञान और कंप्यूटर विज्ञान 1959 तक, जब Minsky और Papert एक पुस्तक प्रकाशित की हकदार "Perceptrons" है, जो पता चला है कि काम के लिए हर रोज कंप्यूटिंग के साथ एक perceptron अव्यावहारिक था के बिंदु से देखने के समय खर्च.

"बेशक, सभी प्रतिबंधों को गायब हो जाएगा, तो आप बनाने की मशीन एक छोटे से अधिक जटिल", उदाहरण के लिए, दो परतों में कहते हैं," Poggio. लेकिन, जबकि इस पुस्तक में था पर एक बाधा प्रभाव के अध्ययन तंत्रिका नेटवर्क है ।

"इन बातों पर विचार किया जाना चाहिए में एक ऐतिहासिक संदर्भ",कहते हैं Poggio. "सबूत के लिए बनाया गया था प्रोग्रामिंग भाषाओं जैसे लिस्प. शीघ्र ही इस से पहले, लोगों को इस्तेमाल किया एनालॉग कंप्यूटर. यह स्पष्ट नहीं था उस समय क्या होगा आम तौर पर परिणाम में प्रोग्रामिंग. मुझे लगता है कि वे चले गए, एक छोटे से पानी में गिर गया, लेकिन, के रूप में हमेशा की तरह, यह असंभव है विभाजित करने के लिए सब कुछ काला और सफेद में है. यदि हम यह विचार के रूप में एक प्रतियोगिता के बीच एनालॉग गणना और डिजिटल गणना, तो वे लड़े, क्योंकि यह आवश्यक नहीं था."

आवृत्ति

1980 के वर्षों में, हालांकि, वैज्ञानिकों ने विकसित किया एल्गोरिदम को संशोधित करने के लिए तंत्रिका नेटवर्क भार और थ्रेसहोल्ड थे, जो काफी प्रभावी के साथ नेटवर्क के लिए एक से अधिक परत को नष्ट करने, कई बाधाओं से परिभाषित Minsky और Papercom. इस क्षेत्र में अनुभवी एक पुनर्जागरण.

लेकिन एक उचित बिंदु के तंत्रिका नेटवर्क में था कुछ कमी है । काफी देर तक व्यायाम कर सकता का नेतृत्व करने के लिए एक संशोधन के नेटवर्क सेटिंग्स जब तक यह शुरू कर देंगे वर्गीकृत करने के लिए डेटा का एक उपयोगी तरीका है, लेकिन क्या इन सेटिंग्स का क्या मतलब है? क्या कर रहे हैं सुविधाओं की छवि लग रहा है एक Discerner की वस्तुओं और वह कैसे इकट्ठा भागों के रूप में करने के लिए एक दृश्य हस्ताक्षर कारों, घरों और कॉफी के कप? सीखने के भार के अलग-अलग यौगिकों का जवाब नहीं है इस सवाल का.

हाल के वर्षों में, कंप्यूटर वैज्ञानिकों के बारे में सोचना शुरू सरल तरीकों का निर्धारण करने के लिए विश्लेषणात्मक रणनीतियों को अपनाया तंत्रिका नेटवर्क है । लेकिन 1980 में-एँ की रणनीति इन नेटवर्कों में स्पष्ट नहीं था. इसलिए, सदी के मोड़ तंत्रिका नेटवर्क संचालित किया गया वेक्टर मशीनों, के लिए एक वैकल्पिक दृष्टिकोण की मशीन सीखने पर आधारित स्वच्छ और सुरुचिपूर्ण गणित.

हाल ही में ब्याज की रेला तंत्रिका नेटवर्क — गहरी सीखने क्रांति — सीमा गेमिंग उद्योग. जटिल ग्राफिक्स और तेजी से पुस्तक आधुनिक वीडियो गेम हार्डवेयर की आवश्यकता है कि कर सकते हैं के साथ रखने की प्रवृत्ति का परिचय है, जो GPU (ग्राफिक्स प्रोसेसर) के हजारों के साथ अपेक्षाकृत सरल प्रसंस्करण कोर पर एक एकल चिप है । बहुत जल्द ही वैज्ञानिकों को एहसास हुआ कि वास्तुकला GPU के पूरी तरह से अनुकूल है के लिए तंत्रिका नेटवर्क है ।

आधुनिक GPUs की अनुमति दी है, उसे करने के लिए एक नेटवर्क का निर्माण 1960-ies के और दो और तीन परत नेटवर्क से 1980 के दशक के गुच्छों में 10, 15 और 50-परत नेटवर्क में से एक आज है । यहाँ है क्या के लिए जिम्मेदार शब्द "" के रूप में "गहरी सीखने" है. की गहराई नेटवर्क है । वर्तमान में, गहरी सीखने के लिए जिम्मेदार है, सबसे प्रभावी प्रणाली के लगभग सभी क्षेत्रों में कृत्रिम बुद्धि अनुसंधान.

हुड के तहत

अस्पष्टता के नेटवर्क अभी भी कर रहे हैं के बारे में चिंतित शिक्षाविदों लेकिन इस मोर्चे पर प्रगति हुई है. Poggio निर्देशन में एक अनुसंधान कार्यक्रम के विषय पर सैद्धांतिक नींव के खुफिया है । नहीं तो बहुत पहले, Poggio और उनके सहयोगियों का उत्पादन किया है एक सैद्धांतिक अध्ययन तंत्रिका नेटवर्क के तीन भागों में है.

पहला भाग प्रकाशित किया गया था जो पिछले महीने के इंटरनेशनल जर्नल में स्वचालन और कंप्यूटिंग, को संबोधित करने के लिए रेंज संगणना की है कि आचरण कर सकते हैं नेटवर्क, गहरी सीखने, और है कि, जब गहरी वेब से अधिक लाभ है उथले. दो और तीन भागों, जो जारी किए गए रिपोर्ट के रूप में संबोधित किया की समस्याओं के लिए वैश्विक अनुकूलन, कि है, की गारंटी है कि एक नेटवर्क सेटिंग्स मिल जाएगा कि सबसे अच्छा फिट अपने प्रशिक्षण के डेटा, के रूप में अच्छी तरह के रूप में मामलों के साथ इतनी अच्छी तरह से के बारे में पता के विशेष प्रशिक्षण डेटा नहीं हो सकता है कि सामान्यीकरण करने के लिए अन्य अभिव्यक्तियों की एक ही श्रेणी है.

वहाँ अभी भी बहुत से सैद्धांतिक सवाल है, जो करने के लिए जवाब देना होगा । लेकिन वहाँ है उम्मीद है कि तंत्रिका नेटवर्क कर सकते हैं अंत में चक्र को तोड़ने की पीढ़ियों, जो डुबकी में उन्हें गर्म है, तो ठंड है.