Bilim adamları, neden AI olabilir, ırkçı ve сексистом

Kötü bir deney şirketi Microsoft ile bir AI algoritma Tay (Tay), 24 saat içinde başından sonra insanlarla etkileşim «Twitter» haline закоренелого расиста gösterdi oluşturduğunuz bugün AI-sistem kurbanı insan önyargı ve özellikle basmakalıp bir düşünce. Bu neden oluyor – bir iş bulmak için küçük bir grup araştırmacı, Princeton üniversitesi. Ve ilginçtir ki, onlar başardı. Ayrıca geliştirilen algoritma, yetenekli bir tahmin tezahürü sosyal kalıplaşmış dayalı yoğun bir şekilde analiz ederek, insanların nasıl birbirleriyle iletişim Online.

Birçok AI-sistem geçmesi onun eğitim anlayışı içinde, insan, dil yardımıyla, büyük koleksiyonları metin veri. Denir muhafazaları. Onlar bir tür web arşiv sadece İnternet içeren 840 milyar farklı belirteçleri veya kelime. Araştırmacı Eileen Калискан ve arkadaşları Princeton merkezi bilgi teknolojileri merak – kavrami mı gövde Common Crawl (biri en popüler platformlarından eğitim için AI), aslında создающегося milyonlarca İnternet kullanıcılarının, kalıplaşmış kavramları algılamak mümkün olacaktır kullanarak bilgisayar algoritması. Bunu yapmak için, onlar için başvurdu son derece orijinal bir yöntem – testi ile gizli bir dernek (Kapalı Association Test, IAT) kullanılan araştırma için sosyal tesisler ve kalıplaşmış insanlar.

Genellikle böyle bir test aşağıdaki gibidir: insanlar soruyor bölmek için belirli bir dizi kelime, iki kategoride. Daha uzun bir adam düşünüyor, hangi kategoriye koymak veya başka bir kelime, daha az kişi uzantısını yanlış bir yazılım bu kelime ile bir yol veya başka bir kategori. Genel olarak, testler IAT kullanılır seviyesini ölçmek için bir basmakalıp düşünce insanlar tarafından ilişkisel yapılanma rastgele kelime kümesi gibi kategorilere göre cinsiyet, ırk, fiziksel özellikler, yaş ve benzeri. Sonuç bu tür testler genellikle oldukça tahmin edilebilir. Örneğin, katılımcıların çoğu kelime ilişkilendirmek kadın, bu kavram ile, «aile» iken, bir adam – kavramı ile «iş». Ancak, açıklık ve öngörülebilirlik sonuçları ve kanıtı vardır kullanışlılığı test IAT işaret bizim basmakalıp düşünce onun toplam kütlesi. Arasında gerçek bir bilim adamı, tabii ki, gitmek bazı anlaşmazlıkları doğruluğu hakkında IAT, ama çoğu kabul eder, çünkü bu testler, doğrudan yansıtmak bizim sosyal kurulum.

Kullanarak, IAT-testleri, bir model olarak, Калискан ve arkadaşları oluşturduk algoritma WEAT (Word-Embedding Association Test), анализирующий bütün parçaları metinler, anlamaya, hangi dilsel varlık ile yakından ilişkilidir, diğer daha. Bir kısmı bu teste dayalı olarak geliştirilen Stanford üniversitesi концепте GloVe (Global Vectors for Word Representation) hesaplayan bir vektör semantik arasındaki ilişki bir deyişle, yani, bir araya getiren birbiriyle ilişkili terimler. Örneğin, kelime «köpek», ile gösterilen bir vektör semantik modeli ile ilgili birçok kelime gibi «köpek», «köpek», «köpek», «watch-dog», «tazı», ve herhangi bir diğer terimlerle açıklayan bir köpek. Özü bir tür semantik model değil yatıyor açıklamasında kendisi kelime «köpek», ve nasıl açıklamak için kendisi konsept köpek. Yani anlamak, temsil ettiği. Bu özellikle önemlidir, çalışırken sosyal kalıplaşmış, birisi, örneğin, çalışır açıklamak için dönem «kadın» gibi kavramlar «kız» ya da «anne». Bu modeller yaygın olarak kullanılan bilgisayar dilbilim. İşleri kolaylaştırmak için araştırmacılar sınırlı her semantik kavramı тремястами vektörler.

Belirlemek İçin, ne kadar güçlü her bir konsept, İnternetten sahip ilişkisel bir bağlantı ile başka bir концептом içinde metin, algoritma, WEAT bakar hemen birçok faktör vardır. En temel düzeyde açıklar Калискан, algoritma denetler, kaç kelime paylaşmak için iki ayrı alınan konsept (yani doğrular yakınlık kendi konumu içinde test alanlar), ancak, ayrıca, muhasebe, gider ve diğer faktörler gibi kullanım sıklığına ya da kelimeler.

Sonra toplantı algoritmik dönüşüm «yakınlık» kavramları içinde WEAT kabul için eşdeğer zaman, istediğiniz kişiye, kategorilere ayırmak için bir konsept test IAT. Daha birbirlerine uzak durmak konseptler, daha uzak çağrışımlı bir ilişki arasında bir çizgi insan beyni. Algoritma WEAT işe yaradı bu konuda profesyonel bulmak için basmakalıp nedeniyle, bundan önce de ortaya çıkarılmıştır çerçevesinde test IAT.

«Biz aslında adapte testleri IAT makineleri. Ve bizim analizi gösterdi ki, eğer скармливать AI insan verileri içeren kalıplaşmış bir görünüm ve tam olarak kendi o hatırlayacak», — yorum Калискан.

Ayrıca, bu set, basmakalıp veri etkileyecektir AI davranacaktır gelecek. Örnek olarak Калискан neden, nasıl algoritma, online çevirmen, Google Translate yanlış çevirir, kelime ingilizce ile diğer diller dayalı kalıplaşmış, o öğrendim tabanlı cinsiyet bilgileri. Şimdi bir düşünün, İnternet büyüledi ordu AI botlara, üreten herkes bizim kalıplaşmış kavramları, onlar bize aynı ve battık. İşte böyle bir gelecek bizi bekliyor, eğer biz ciddi ciddi düşünelim nasıl коррективном yönteminde değişiklik basmakalıp davranış gibi sistemleri.

Rağmen Калискан ve arkadaşları bulundu, halka-dili tam anlamıylaзаполонен sosyal kalıplaşmış kavramları ve önyargı, o da oldu tam ve doğru ilişkisel satır. Bir testte araştırmacılar güçlü ilişkisel kavramlar arasındaki ilişkiyi «kadın» ve «annelik». Bu bir ilişkisel dizi yansıtan, gerçeği gerçekte olduğu annelik ve ebeveynlik gerçekten kabul edilir, esas olarak, bir kadın olarak bir görev.

«bir Dil bir yansımasıdır gerçek dünya», — diyor Калискан.

«Çentik klişeleşmiş kavramlar ve istatistiki gerçekler, dünyanın etrafında yapacak makine model daha az doğru. Ama yine sadece almak ve ortadan kaldırmak kalıplaşmış kavramları imkansız, bu yüzden bize gerekli çalışmayı öğrenmek ne var şimdi. Biz bilinci, biz doğru kararlar yerine önyargılı bir seçenek. Makine no öz. Bu nedenle uzmanlar, yapay zeka için gerekli bağışlamak makine yeteneği almak ya da bu bir çözüm değil, dayalı basmakalıp ve önyargılı kavramları».

Ve yine de bir çözüm, sorun, insan, dil, araştırmacılara göre, bir adam kendisi.

«hayal edemiyorum birçok durumda, nerede bir ihtiyaç ... bir adam olabilirdi olup olmadığını kontrol alınması doğru bir karar. Adam bilinen tüm aşırı durumlarda verirken ya da başka bir çözüm. Bu nedenle, kararlar sadece bir kez olur, ne olmaz sorun değil».

Bazı çevrelerde artık çok canlı bir şekilde tartışılan bir konu hakkında, robotlar yakında alamaz bizim işleri. Biz AI, çalışmaya yetenekli, bizim için gerekecek geliyor yeni işler için insanlar yol denetimi alınan AI çözümleri için olanlar değil, allah korusun, bize onları pozisyon önyargı, onlar yine почерпнули kendimizi. Almak, en azından bir sohbet bot. Olsa bile, onlar tamamen kendi kendine yeterli, kendi ilksel oluşturulması meşgul insanlar, sahip olan, kendi önyargı ve kalıplaşmış. Bu nedenle, kalıplaşmış kavramlar başlangıçta yerleşik bir kavram dilin kendisi için doğru çözümler hala ihtiyaç insanlar için, ne kadar gelişmiş AI sistemi.

Son zamanlarda yayınlanan bir makale, Science dergisinde принстонские bilim adamları diyorlar ki böyle bir durum olabilir, ciddi ve uzun erimli gelecek.

«Bizim bulgular kesinlikle daha надут enerjinizi geri kazanabilmek için aralarında tartışırken hipotez Sapir'in — Уорфа. Bizim işimiz gösterir, bu davranış oluşabilir dayalı tarihsel olarak hakim olan kültürel normlar. Ve her durumda, bu farklı olabilir, çünkü her kültürün kendi bünyesinde bir hikaye.»

Nispeten son zamanlarda, artış, ağırlıklı bir bilim-kurgu filmi «Varış» bir kez etkilenen bir fikir hipotez Sapir'in — Уорфа göre, hangi dil yapısı etkiler zihniyet ve onun görüşleri ortam. Şimdi aynı çalışmaları sayesinde Калискан ve onun arkadaşları bize geldi algoritması, bu hipotezi doğrulayan. Açısından en azından basmakalıp ve önyargılı sosyal kavramlar.

Araştırmacılar, isteyen, çalışmaya devam, ama bu sefer odak diğer alanlarda ve arama henüz keşfedilmemiş basmakalıp işaretler bir dil. Belki de araştırma nesnesi haline modellerini, oluşturulan yanlış haberleri MEDYA ya da basmakalıp kavramlar belirli субкультурах veya kültürler ile jeo-referanslı vardır. Buna ek olarak, bir fırsat olarak kabul edilir araştırma diğer diller nerede kalıplaşmış kavramları entegre edilebilir bir dil değil, entegre ingilizce.

«Varsayalım gelecekte, belli bir kültür veya bir coğrafi konumda ortaya çıkmaya başlar, sert bir basmakalıp düşünce. Yerine araştırmak ve kontrol etmek, tek tek her insan faktörü, çok gerekli zaman, para ve çaba, sadece analiz yapmak metin veri ayrı ele alınan bir grup insan ve bu temel bulmak gerçekten burada bir konuşma стереотипном algı ya da değil. Bu sayede önemli bir tasarruf aracı olarak ve zaman», — toplam araştırmacılar.