अंधेरे डेटा: कृत्रिम खुफिया करने के लिए सीखता है की पहचान समलैंगिकों तस्वीर में

हम बन गए हैं पर भरोसा करने के लिए मशीन सीखने प्रणालियों में से सब कुछ बनाने के लिए प्लेलिस्ट नियंत्रण कारों, लेकिन किसी भी उपकरण की तरह, वे कर सकते हैं इस्तेमाल किया जा में एक खतरनाक और अनैतिक प्रयोजनों के लिए, यहां तक कि दुर्घटना के द्वारा. आज के चित्रण के इस तथ्य — एक नए लेख के शोधकर्ताओं द्वारा स्टैनफोर्ड बनाया है जो की एक प्रणाली, जो मशीन सीखने, वे दावा है, आप बता सकते हैं कई फोटो... आप के सामने है । है या नहीं.

जाहिर है, इस अध्ययन में आश्चर्य की बात है और बेहद निराशाजनक बराबर मात्रा में. इसके अलावा तथ्य यह है कि कमजोर समूह के लोगों को एक बार फिर अधीन हो जाएगा करने के लिए एक व्यवस्थित गोपनीयता के आक्रमण और अंतरंग विषयों, यह सीधे प्रभावित करता है समतावादी धारणा है कि हम नहीं कर सकते हैं (और नहीं होना चाहिए) के न्यायाधीश द्वारा एक व्यक्ति उनकी उपस्थिति, और नहीं करने का अधिकार है लगता है कि यौन अभिविन्यास के एक या दो छवियों. बेतुका है? प्रणाली सटीकता की सूचना दी काम में, हालांकि, शक की कोई गुंजाइश नहीं है: यह अब न केवल संभव है, लेकिन किया.

सिस्टम उठाता emanations ज्यादा की तुलना में अधिक सूक्ष्म के लिए सक्षम vosprinimat लोगों को देखने के लिए सुराग, जो आप भी नहीं जानते हैं. और यह पता चलता है के रूप में करना है कि गोपनीयता, निजी जीवन के युग में सर्वव्यापी कंप्यूटर दृष्टि जा सकता है, बस नष्ट कर दिया.

आगे बढ़ने से पहले करने के लिए चर्चा की प्रणाली ही है, यह स्पष्ट करने के लिए आवश्यक है कि अध्ययन के साथ आयोजित किया गया अच्छे इरादों के. सवाल है, ज़ाहिर है, वहाँ अनगिनत हैं । सबसे अधिक प्रासंगिक है, शायद, थे टिप्पणी की मीकल Kosinski और एलोन वोंग के रूप में क्यों काम वास्तव में प्रकाश देखा:

"हम बहुत चिंतित थे इन परिणामों के बारे में और समय की एक बहुत खर्च करने के लिए उन्हें । हम नहीं चाहते करने के लिए लोगों को बेनकाब करने के लिए उन जोखिमों के बारे में जो वे थे चेतावनी दी है । की क्षमता को नियंत्रित करने के लिए जब और जिसे करने के लिए खुलासा करने के लिए उनके यौन अभिविन्यास है, महत्वपूर्ण है न केवल मानव कल्याण के लिए भी है लेकिन उसकी सुरक्षा के लिए."

"हमने सोचा कि विधायकों और LGBTQ समुदाय की जरूरत के बारे में पता करने के जोखिम का सामना करना पड़ा. हम नहीं किया है एक उपकरण बनाने की गोपनीयता के आक्रमण है, लेकिन बल्कि है कि पता चला है, सरल और व्यापक रूप से इस्तेमाल किया तरीकों के लिए एक गंभीर जीवन के लिए खतरा है."

<पी>निश्चित रूप से, यह सिर्फ है कई में से एक व्यवस्थित प्रयास निकालने के लिए गुप्त जानकारी इस तरह के रूप में कामुकता, भावनात्मक राज्य, या मेडिकल रिकॉर्ड. लेकिन इस मामले में अभी भी अधिक गंभीर के लिए कई कारण हैं.

यह देखने के लिए कि यह असंभव है (और आवश्यक नहीं है)

में एक लेख में प्रकाशित जर्नल व्यक्तित्व और सामाजिक मनोविज्ञान, में विस्तार से वर्णन काफी एक आम दृष्टिकोण पर आधारित सुदृढीकरण सीखने का काम है जो दृढ़ संकल्प की संभावना की पहचान करने के लिए लोगों के रूप में समलैंगिक है या नहीं में उनके चेहरे. नोट: काम में अब भी है के रूप में एक मसौदा है.

का उपयोग कर एक डेटाबेस के साथ चित्र के रूप में (जो से लिया गया है और डेटिंग वेबसाइटों के साथ खुला डेटा), वैज्ञानिकों को इकट्ठा 35 326 चित्रों 14 776 लोगों के बीच थे, जो समान रूप से प्रतिनिधित्व पुरुषों और महिलाओं. उनके चेहरे की सुविधाओं में निकाले गए थे और गणना से नाक के आकार और भौंहों के लिए चेहरे के बालों और चेहरे का भाव.

तंत्रिका नेटवर्क गहरी सीखने खा लिया इन सभी सुविधाओं के लिए, देख रहे हैं, जो आमतौर पर के साथ जुड़ा हुआ एक निश्चित यौन अभिविन्यास. वैज्ञानिकों नहीं कर रहे हैं "वरीयता प्राप्त" के साथ यह preconceptions के बारे में कैसे आम तौर पर कर रहे हैं के साथ लोगों को सामान्य या समलैंगिक अभिविन्यास प्रणाली बस सौंपा सुविधाओं और सहसंबद्ध के साथ उनके यौन वरीयताओं को.

इन पैटर्न पहुँचा जा सकता है की अनुमति देने के लिए कंप्यूटर को लगता है की यौन वरीयताओं के व्यक्ति और यह निकला है कि एअर इंडिया प्रणाली है बहुत से निपटने में बेहतर इस कार्य के मनुष्यों की तुलना में. एल्गोरिथ्म में सक्षम था सही ढंग से निर्धारित करने के उन्मुखीकरण के 91% और 83% महिलाओं, दो एक समय में. लोग हैं, जो प्रदान की उन छवियों में सही थे 61% और 54 मामलों का%, क्रमशः — कि है, एक सिक्का टॉस देना होगा एक ही परिणाम है ।

विविधताओं के बीच चार समूहों दूसरा लेख में वर्णित है; एक तरफ स्पष्ट व्यवहार मतभेदों की तरह, प्रणय निवेदन एक ही समूह या एक समान मेकअप, सामान्य प्रवृत्ति था की उपस्थिति में "पुरुष" लक्षण में समलैंगिक पुरुषों और "मर्दाना" लक्षण में.

चित्रा से पता चलता है, जहां सुविधाओं का संकेत यौन अभिविन्यास

यह ध्यान दिया जाना चाहिए कि प्रणाली की सटीकता हासिल की थी आदर्श स्थिति में चुनाव दो लोगों के बीच है, जिनमें से एक समलैंगिक है. जब प्रणाली मूल्यांकन किया गया था के एक समूह में 1,000 व्यक्तियों, जो केवल 7% करने के लिए निकली समलैंगिक लोगों के लिए (अधिक representativeness वास्तविक जनसंख्या का प्रतिशत), के परिणाम नहीं थे । सबसे अच्छा मामले में एक नमूना के 10 व्यक्तियों को मान्यता प्राप्त किया गया के साथ 90% सटीकता के साथ.

वहाँ भी है एक वास्तविक संभावना के पूर्वाग्रह प्रणाली में डेटा के कारण: सबसे पहले, वे केवल शामिल युवा अमेरिकियों के प्रकार के आदमी/स्त्री और पुरुष/सामान्य है ।

"के बावजूद हमारे प्रयास को प्राप्त करने के लिए एक और अधिक विविध नमूना, हम थे करने के लिए सीमित अध्ययन के प्रतिभागियों को संयुक्त राज्य अमेरिका से है । क्योंकि पूर्वाग्रह के खिलाफ समलैंगिकों और उपयोग के ऑनलाइन डेटिंग साइटों रहे हैं unevenly के बीच वितरित विभिन्न जातीय समूहों के साथ, हम में असमर्थ थे करने के लिए खोजने के लिए पर्याप्त संख्या में गैर-सफेद समलैंगिक के सदस्यों के लिए."

हालांकि वैज्ञानिकों का सुझाव है कि अन्य जातीय समूहों की संभावना है करने के लिए इसी तरह के चेहरे का पैटर्न और प्रणाली भी प्रभावी हो जाएगा परिभाषित करने के लिए, वास्तव में यह आवश्यक है की पुष्टि करने के लिए और नहीं करने के लिए लगता है.

यह भीयह तर्क दिया जा सकता है कि क्लासिफायरफ़ाइल एकत्र किया जाता है, विशेषता सुविधाओं के लोगों को डेटिंग साइटों पर, नहीं की मदद के बिना तंत्र के आत्म-चयन, उदाहरण के लिए, अमेरिकी पुरुषों के साथ एक सामान्य यौन अभिविन्यास सकते हैं जानबूझकर बचा उपस्थिति है, जो दिखाना होगा कि वे हो सकता है समलैंगिक.

<पी>बेशक, वास्तविक इस प्रणाली की प्रभावशीलता काफी पूछताछ के बाद से, यह प्रशिक्षित किया जाता है के आधार पर सीमित डेटा की मात्रा और ज्यादातर प्रभावी उदाहरण से इस पूल. आगे अनुसंधान आवश्यक हो जाएगा । हालांकि, यह लगता है अदूरदर्शी कि ग्रहण करने के लिए चल रहे सिस्टम के लिए असंभव है.

सच

कई लोगों का तर्क है कि इस प्रौद्योगिकी की तुलना में बेहतर नहीं है "कपालविद्या 2.0", खोल जब असंबंधित शारीरिक लक्षण के साथ जटिल आंतरिक प्रक्रियाओं, और कि समझ में आता है, लेकिन यह सच नहीं है.

"चेहरा अब व्यापक रूप से और ठीक ही अस्वीकार कर दिया एक संयोजन के रूप में अंधविश्वास और नस्लवाद के रूप में प्रच्छन्न विज्ञान," वैज्ञानिकों में लिखने के लिए परिचय (चेहरा पहचानने से चेहरे की विशेषताओं, जबकि phrenologists के आकार का अध्ययन किया खोपड़ी). लेकिन इस छद्म विज्ञान में विफल रहा है, क्योंकि अपने समर्थकों थे, विपरीत दिशा में बढ़ रहा है । वे का फैसला किया है, जो में शामिल किया गया था "आपराधिक मामलों में" या "यौन विचलन", और फिर, यह निर्धारित क्या सुविधाओं के लिए आम हैं.

यह पता चला है कि लोगों को बस नहीं अच्छी तरह से सामना के साथ इस तरह के कार्यों, हम लोगों को देख के बहुत ज्यादा अपने आप को और सहज निष्कर्ष है । लेकिन इसका मतलब यह नहीं है कि दिखाई दे सुविधाओं और शरीर क्रिया विज्ञान या मनोविज्ञान से संबंधित नहीं हैं. कोई भी संदेह है कि कर सकते हैं मशीन निशान में लोगों के लक्षण है कि वे नहीं देखते हैं, छोटे से रासायनिक निशान के विस्फोटक गोले और दवाओं के लिए सूक्ष्म पैटर्न पर एमआरआई स्कैन है, जो बताने के लिए एक शुरुआत का कैंसर है.

लेख से यह इस प्रकार है कि कंप्यूटर दृष्टि प्रणाली चुनता है, एक ही सूक्ष्म पैटर्न, दोनों कृत्रिम और प्राकृतिक है, लेकिन पहली जगह में; वैज्ञानिकों की कोशिश की पर ध्यान केंद्रित करने लक्षण है कि नहीं बदला जा सकता है आसानी से. इस परिकल्पना का समर्थन करता है कि कामुकता जैविक रूप से निर्धारित किया जाता है, शायद के तहत विभिन्न कारकों के प्रभाव के विकास पर है, जो भ्रूण में परिणाम कर सकते हैं छोटे शारीरिक मतभेद और हार्मोनल पैटर्न की अपील की है । मनाया सिस्टम पैटर्न के समान हैं, उन लोगों ने भविष्यवाणी सिद्धांत के जन्म के पूर्व का हार्मोन है.

इस के शुरुआती बिंदु है एक व्यापक सामाजिक और दार्शनिक बहस के प्यार के बारे में, कामुकता, नियतिवाद और खुफिया भावनाओं और व्यक्तित्व के लिए सरल जैविक विशेषताओं है । लेकिन हम नहीं होंगे. बेहतर संपर्क पर अन्य गंभीर मुद्दों गोपनीयता के बारे में.

खतरों और सीमाओं

के प्रभाव का स्वत: दृढ़ संकल्प के उन्मुखीकरण पर आदमी की कई तस्वीरें, सब से पहले है और सबसे महत्वपूर्ण बात है, क्योंकि लोगों को लगा की LGBTQ जोखिम में समूहों में दुनिया भर में उन स्थानों पर, जहां वे रहते हैं पर अत्याचार अल्पसंख्यक है । संभावित दुरुपयोग के इस तरह के एक प्रणाली है, और कुछ कर सकते हक असहमत के निर्णय के शोधकर्ताओं के बारे में अपने और निर्माण प्रलेखन.

लेकिन इसी तरह से आप तर्क दे सकते कि यह करने के लिए बेहतर करने में सक्षम हो जाएगा इसे खोलने के लिए, को लागू करने के लिए countermeasures, या अन्यथा करने के लिए लोगों को अनुमति देने के लिए इसके लिए तैयार है । अंतर यह है कि आप छिपा कर सकते हैं, आप जानकारी ऑनलाइन पोस्ट; आप नियंत्रण नहीं कर सकते हैं, जो अपना चेहरा देखता है. यह द्वारा नियंत्रित किया जाता है जिस समाज में हम रहते हैं, और छुपा से आम दृश्य है और कम से कम है.

"यहां तक कि सबसे अच्छा कानून और प्रौद्योगिकी के लिए गोपनीयता की रक्षा, हमारी राय में, विफलता के लिए बर्बाद," वैज्ञानिकों लिखें. "डिजिटल वातावरण बहुत मुश्किल है पुलिस के लिए; डेटा कर सकते हो आसानी से स्थानांतरित कर दिया है, सीमा पार चोरी करने के लिए या रिकॉर्ड करने के लिए सहमति के बिना".

इस समस्या है असीम रूप से जटिल है, लेकिन यह दर्शाता है की अद्भुत क्षमता कृत्रिम खुफिया है । इस तरह के परिणामों प्रौद्योगिकियों, के रूप में हमेशा की तरह, अस्पष्ट है, लेकिन बहुत ही रोचक मानवता के भविष्य के लिए और अलग-अलग है । वैज्ञानिकों ने खुद को नहीं कर रहे हैं विशेष रूप से आशावादी के उपयोग के बारे में इस तरह की तकनीकों भविष्य में, लेकिन यथार्थवादी हैं जब एक युग में, प्रौद्योगिकी, जो यह की उम्मीद है उद्धार की योजना, सबसे अधिक संभावना खेलने के खलनायक.

"हम मानते हैं कि आगे कटाव के निजी जीवन में अपरिहार्य है, और की सुरक्षा और अन्य menshinstv पर निर्भर नहीं करता है सही करने के लिए गोपनीयता और मानव अधिकारों के लिए सम्मान और सहिष्णुता के समाज और राज्य" वे लिखते हैं. "करने के लिए दुनिया के युग में पद-गोपनीयता सुरक्षित था और अधिक का स्वागत करते हुए, यह आबाद करने के लिए अच्छी तरह से शिक्षित लोगों को कर रहे हैं मौलिक के असहिष्णु असहिष्णुता"है.

प्रौद्योगिकी नहीं होगा बचाने के लिए हमें अपने आप से.

सामग्री टेकक्रंच