Koyu verileri: yapay zeka anlatmak için öğrenme eşcinselleri fotoğraf

Biz çelik güvenmek sistemleri, yapay öğrenme için her şeyi oluşturmak çalma listeleri yönetmek için araçları, ancak herhangi bir araç, onlar kullanılabilir, tehlikeli ve etik olmayan amaçlar için, ve hatta yanlışlıkla. Bugünkü resimde bu gerçeği — yeni makale, araştırmacı, Stanford, gelen bir sistem oluşturduk makine öğrenme, olan, onay, söyleyebilir birden fazla fotoğraf... eşcinsel önünüzde. Ya da değil.

Açıkçası, bu çalışma, şaşırtıcı ve cesaret kırıcı eşit. Ek olarak, etkilenen bir grup insan bir kez daha maruz kalacağı систематизированному işgali gizlilik ve samimi bir konu, tüm bu doğrudan etkiler эгалитарное bir fikir, biz (ve olmamalıdır) hakim bir adam hakkında onun görünümünü, yanı sıra hakkın yok sanırım cinsel yönelim bir veya iki görüntüleri. Saçma mı? Sistemin doğruluğu, ilgili olduğu bildirilen iş yerinde, bu arada, bırakmaz, şüpheye yer: şimdi bu sadece mümkün değil, ama yapılabilir.

Sistem yakalar tecellileri daha ince, daha yetenekli воспрнимать insanlar görür, ipuçları, sen bile tahmin edemiyor. Ve o gösterir gibi, bizim için özel gizliliği, özel hayatı döneminde yaygın bilgisayar görme olabilir sadece yok.

Geçmeden Önce tartışmaya istediğiniz sistem, açıklık getirmek gerekir, bu anket iyi niyetli. Soru, tabii ki, sayısını sayılmaz. En güncel, belki de, çelik bir yorum Михала Косински ve Илун Wong neden olarak çalışma genel bir ışık gördüm:

«Biz çok endişeliyiz bu sonuçlar ve çok zaman geçirdim, hiç bunları açıklayacak. Biz tabi insan daha riskler hakkında kendilerini uyardı. İzlemek için yeteneği, ne zaman ve kime ifşa cinsel yönelim çok önemli değil, sadece insan refahı için, ama onun güvenlik».

«Biz inanıyordu milletvekilleri ve toplum ЛГБТК farkında olmalıdır karşılaştığı riskler. Biz yaratmadı aracı müdahale, özel hayatın, daha doğrusu göstermiştir ki, basit ve yaygın olarak kullanılan yöntemler ciddi bir tehdit oluşturmaktadır kişisel yaşam».

Kesinlikle, bu sadece bir çok sınıflandırarak göstermek girişimleri çıkarmak gibi hassas bilgileri cinsellik, duygusal durumunu ya da tıbbi bir performans. Ancak bu durumda, her ciddi, çeşitli nedenlerle.

ne olduğunu Görmek edilemez (gerek yok)

Yayınlanan Bir makalede, Journal of Personality and Social Psychology, ayrıntılı olarak açıklanmıştır oldukça sıradan bir yaklaşım ve her özellik grubunun talebi ile takviye görevi tanımı özellikleri tanımlamak için insan gibi eşcinsel ya da değil, kendi bir tarafa. Not: çalışma hala taslak şeklinde.

Kullanarak bir veritabanı anlık ile kişilerin (alınmıştır, online tanışma siteleri ile açık veri), bilim adamları topladık 35 326 görüntüleri 14 776 kişi arasında eşit olarak temsil edildi homoseksüel kadın ve erkekler. Onların yüz hatları elde edilmiştir ve tasarlanmıştır: burun şekli ve kaş bitki örtüsü yüz ve yüz ifadeleri.

Нейросеть derin öğrenme скушала tüm bu özellikleri, подмечая, hangi ile ilişkili genellikle belirli bir cinsel yönelim. Bilim adamları «засеивали» onu предубеждениями hakkında, her zamanki gibi görünüyor, insanların normal ya da eşcinsel yönelimleri; sistem sadece dağıtılıyordu özellikleri ve соотнесла onların cinsel tercihlerine.

Bu yendi desen başvurabilirsiniz izin vermek için bir bilgisayara sanırım cinsel tercihleri bir insan çıktı, AI sistemi önemli ölçüde daha iyi bu görevin üstesinden daha insanlar. Algoritma mümkün değil mi yönünü belirlemek 91% onu gösterdin ve erkeklerin %83'ü kadın, birkaç kez. İnsanlar vermiş, aynı resimler, haklıydılar 61 %54% durumda, buna göre bir şey var, atmak için para vermişti ... aynı sonuç.

Varyasyon dört grup arasında açıklanan ikinci makalede; bariz davranış farkları gibi kur, bir grup ya da benzer bir makyaj, genel eğilim şuydu varsa «kadın» lanet olsun var gay ve «erkek» lanet olsun, ben bir lezbiyen.

resimde gösterilen yerde bulunan özellikler gösteren, cinsel yönelim

Unutulmamalıdır ki, böyle bir sistemin doğruluğu sağlandı ideal koşullarda seçim iki kişi arasında, biri гомосексуален. Ne zaman sistemi değerlendirildi grup 1000 kişilerin sadece %7'si aitti eşcinsel insanlara (devamı репрезентативности gerçek payı nüfus), onun sonuçları iyi değildi. En iyi ihtimalle bir örnekleme 10 kişi oldu algılanması ile 90-yüzde doğruluk.

Orada da gerçek bir olasılık durumuna önyargı var sistemi nedeniyle veri: birincisi, dahil sadece genç beyaz amerikalı tipi, erkek/kadın ve eşcinsel/normal.

«girişimlerine Rağmen daha farklı bir örnek, biz kısıtlı okuyan beyaz katılımcıları AMERİKA birleşik devletleri. Çünkü eşcinsellere karşı önyargıları ve kullanım online tanışma siteleri düzensiz dağıtılmış, farklı etnik gruplar, biz-ebil değil bulmak yeterli sayıda beyaz olmayan eşcinsel katılımcılara».

Olsa da, bilim adamları, diğer etnik grupları büyük olasılıkla olacak benzer yüz işleyiş ve sistemi de etkili bir şekilde onları tanımlamak için gerçekte, bu, onaylamak ve kabul etmek değil.

Dasöylenebilir sınıflandırıcı topluyordu özellikleri, karakteristik insanlar için tanışma siteleri, yardımı olmadan bir mekanizma самоотбора — örneğin, amerikalı erkekler, normal bir cinsel yönelim olabilir kasıtlı olarak kaçınmak görünümünü gösterdi ... onlar eşcinsel.

Tabii ki, gerçek verim bu sistem makul şüphe, çünkü eğitim o sınırlı olarak veri hacmine ve büyük bir kısmı etkili örneklerle bu havuz. Holding, daha fazla araştırma gerekli olacaktır. Ancak görünüyor недальновидным zannetmek, böyle çalışan bir sistem mümkün değildir.

hakikat

Birçok iddia bu teknoloji, daha iyi değil «frenoloji 2.0», paravan iletişim ilişkisiz fiziksel özellikleri ile karmaşık iç süreçleri ve bu anlaşılabilir bir durumdur, ama doğru değil.

«Çehre bugün her yerde ve haklı olarak reddedilen bir arada gibi batıl ve ırkçılık kılığında bilim» yazmak, bilim adamları için giriş çalışmaları (физиогномия hakimler ve yüz hatları ise френологи yapan kafatası şekil). Ama bu псевдонаука başarısızlığa uğradı, çünkü onun destekçileri ters hareket edildi. Onlar karar kim olduğunu «suç işler» ya da «cinsel yanlışlıklar için kaydırma», daha sonra belirlenecek, hangi özellikleri ortaktır bu tür insanlar için.

Meğer insanlar sadece kötü ile başa çıkmak için bu tür görevler — biz insanlar çok fazla kendinizi ve yapmak içgüdüsel sonuçlar. Ama bu demek değil ki, görünür özellikleri ve fizyoloji veya psikoloji bağlı değildir. Hiç kimse şüphe makine kutlamak, insanların özellikleri, kendilerini görmüyorum, küçük bir kimyasal iz süreksiz mermi ve uyuşturucu kadar субтильных kalıpları сканах MR hakkında konuşmak başlar kanser.

Makale takip sistemi bilgisayar görme seçer eşit субтильные kalıpları, yapay ve doğal, ama öncelikle son; bilim adamları çalıştı odaklanmak anlamda, değiştirilemez ile çok daha kolay. Bu destekler hipotezi cinsellik belirlenir biyolojik olarak, belki de, maruz kaldığında, çeşitli faktörlerin fetal gelişim için neden olabilir, küçük bir fizyolojik farklılıklar ve hormonal düzenleri çekiciliği. Gözlenen sistem desenleri benzer, tahmin teorisi предродовых hormon.

Buradan başlar ve daha geniş bir sosyal ve felsefi tartışma, aşk, cinsellik, детерминизме ve zeka duygu ve kişilikleri basit bir biyolojik özellikli. Ama biz bunu yapmayacağız. En iyisi bize başka bir ciddi bir sorun ile ilgili gizlilik.

Tehlike ve kısıtlamalar

Sonuçları otomatik algılama, yönelim, bir kişinin birden fazla fotoğraf için çok büyüktür, her şeyden önce ve en önemlisi, çünkü insanlar koymak grupları ЛГБТК tehlikeye dünyada bir yerlerde kalır ezilen bir azınlık. Potansiyel kötüye böyle bir sistem çok büyük ve bazı haklı kabul kararı hakkında araştırmacı oluşturmak ve belgelemek.

Ama tam olarak aynı olduğunu söyleyebiliriz, daha iyi olması için bir fırsat açmak, uygulamak için önlemler veya başka bir şekilde izin hazırlanmak için. Fark edilebilir, aşağılık duygusu bilgileri gönderdiğiniz çevrimiçi; kontrol edemez kim görür yüzünü. Bu поднадзорное bir toplum içinde yaşadığımız ve gizli genel görünüm kalır, daha az ve daha az.

«daha iyi yasalar ve teknolojiye yönelik gizlilik koruma, bizce, başarısız olmaya mahkumdur» yazmak, bilim adamları. «Dijital ortam çok karmaşık ve polis için; verileri kolayca aktarmaya sınırdan çalmak veya kaydetmek için herhangi bir izni olmadan, kullanıcıları».

Bu sorun, sonsuz karmaşık, ama vitrinde çarpıcı özellikleri bir yapay zeka. Etkileri gibi teknolojiler, genellikle, belirsiz, ama son derece ilginç insanlığın geleceği için ve tek bir kişi. Kendilerini bilim insanları pek iyimser tahmin bu teknolojinin kullanımı gelecekte, ama gerçekçi bir çağda teknoloji, hangi bekleniyor kurtarma planı, büyük olasılıkla kötü oynayacak.

«Biz daha fazla erozyon özel hayatın kaçınılmaz ve güvenliği gay ve diğer меньшинеств bağlıdır gizlilik hakları, insan haklarına saygı ve hoşgörü ile topluma ve devlete», yazıyorlar. «Dünya çağında post-gizlilik daha güvenli ve misafirperver gerekiyor yaşayan iyi eğitimli insanlar, radikal, hoşgörüsüz hoşgörüsüzlük».

Teknoloji kurtaramaz bizi kendimizden.

malzemeler Hürriyet