Yapay zeka çok zeki, nasıl ve Ilon Masque onu düşünün

Mart 2016 tarihinde bilgisayar algoritması AlphaGo şirket DeepMind başardı zafer Mi Седолем, o zaman dünyanın en iyi oyuncusu karmaşık mantıksal.. Bu olay oldu biri belirleyici anları tarih teknoloji sektöründe, hangi zamanda çelik ve zafer bilgisayar Deep Blue, IBM üzerinde dünya satranç şampiyonu Garry Каспаровым, ve kazanan süper bilgisayar Watson aynı IBM sınav için эрудитов İşgal, 2011 yılında.

Ama yine de, rağmen bu zafer, ne kadar etkileyici, onlar, burada bir konuşma büyük ölçüde gider hakkında eğitim algoritmaları ve kullanımı kaba işlem gücü, daha gerçek yapay zeka. Eski profesör robotik mıt'den Rodney Brooks'un olan şirketin kurucularından biri, iRobot, ve daha sonra Rethink Robotics, diyor, öğrenme algoritması oyunda karmaşık bir stratejik bir bulmaca oyunu değil, zeka. En azından böyle, nasıl biz onun tanıtımı için bir kişi.

Bir Uzman açıklıyor, ne kadar güçlü AlphaGo ne de kendini gösterdi çalıştırdığınızda, set önünde görev, aslında bu mümkün değil başka bir şey. Ayrıca, yapılandırılmış bir şekilde oynayabilirsiniz. sadece standart bir golf 19 x 19. Röportajda portal TechCrunch Brooks anlattı, son fırsatı ile sohbet ekibi DeepMind ve bulmak ilginç bir detay. Bir soru üzerine, ne olur, degisik organizatörler yarışma kurulu boyutu. ve artırarak onun kadar 29 x 29 hücre, takım AlphaGo itiraf etti ona bile hafif bir değişiklik, oyun alanının yol açacak, aynı zamanda «bize bir sondu».

«Ben, ne insanların, ne kadar iyi bir algoritma ile başa çıkmak bir görev, ve, görünüşe göre, hemen inanıyorum, mümkün olduğu kadar verimli bir şekilde gerçekleştirmek için diğer. Ama mesele o değil», — yorum Brooks.

Kaba zeka

Bu yılın mayıs ayında bir röportaj Дэвину Колдвею olay TechCrunch Disrupt Kasparov kaydetti gelişimi, bilgisayarın, yetenekli satranç oynamak için küresel düzeyde bir şey, ama tamamen başka bir isim böyle bir bilgisayar temiz bir yapay zeka gibi, öyle değil. Bu sadece bir makine, bir atar yaptığı tüm işlem gücü sorunu çözmek için hangi ile o alışık başa çıkmak için en iyisidir.

«satranç makinesi kazanıyor olasılığı nedeniyle derin bir hesaplama hesaplama. Onlar-ebilmek var olmak tamamen yenilmez varsa, büyük bir veritabanı, çok hızlı bir donanım ve daha mantıklı algoritmalar. Ancak, onlar yoksun bir anlayış. Onlar tanımaz stratejik şablonları. Makinelerin hayır» hedef, — dedi Kasparov.

Gil Pratt, ceo, Toyota Institute, departmanı, şirket Toyota ile ilgili sorunları ve projeleri ile ilgili bir yapay zeka ve onun kullanımı, evcil robotlar ve insansız araçlar da bir röportajı yer aldı TechCrunch olayın bir parçası olarak Robotics Session. Onun görüşüne göre, o bir korku duymak, insanların geniş bir yelpazede de dahil olmak üzere Ilona Maskesi, son zamanlarda, назвавшего yapay zeka «varoluşsal bir tehdit, insanlığa», neden olmuş olabilir fazla olanlar антиутопичными açıklamaları dünya bize birçok bilim kurgu.

«Bizim mevcut sistem derin öğrenme iyi performans, belirlenen önlerinde görev sadece kadar biz onları yarattık. Ama onlar aslında oldukça узкоспециализированы ve крошечны alır. Bu nedenle ben önemli buluyorum her seferinde bu konu bağlamında söz ve ne kadar iyi olduklarını ve ne kadar onlar aslında etkisizdir. Yanı sıra, ne kadar uzakta biz bir zaman bu sistemi başlayabilir temsil tu tehdit, hangi diyor Ilon Masque ve diğerleri», — yorum Pratt.

Brooks, sırayla, TechCrunch Robotics Session kaydetti, insanlar arasında genel bir eğilim olduğunu varsaymak için bir algoritma yeteneğine sahip ile başa çıkmak için bir görev «x», o, görünüşe göre, aynı akıllı, adam gibi.

«bence nedeni insanlar da dahil olmak üzere Ilona Maske, yaptığı bu hata, aşağıdaki gibidir. Gördüğümüzde bir insan, çok iyi справляющегося etmeleri önünde bir görev, anladık, o sahip olduğu yüksek yargı bu aslında. Sanırım aynı model insanlar uygulamak için çalışıyoruz ve makine öğrenme. Ve bu nasıl, bir kez ve büyük bir hata olduğunu», — diyor Brooks.

şirketin Başkanı Facebook Mark Zuckerberg geçirdi son pazar günü canlı yayın sırasında da, yapılan eleştiri yorum Ilona Maske olarak nitelendirerek, «oldukça sorumsuz». Göre Zuckerberg, AI mümkün olacak büyük ölçüde hayatımızı geliştirmek. Masque sırayla karar verdi отмалчиваться ve cevap Цукербергу, «sınırlı anlama» AI. Tema henüz kapalı ve Masque söz verdi, biraz sonra daha ayrıntılı olarak cevaplamak saldırılar meslektaşlarından IT sektöründe.

Bu arada, Masque tek kişi inanıyor AI taşıyabilir potansiyel bir tehdit. Fizikçi Stephen Hawking ve filozof Nick Бостром de endişelerini ifade potansiyeli hakkında penetrasyonu yapay zeka, yaşam biçimlerini, insanlığın. Ama, büyük olasılıkla, onlar hakkında konuşmak daha генерализированном yapay zeka. Hakkında bir okuyan gibi laboratuvarlarda, Facebook AI Research, DeepMind ve Maluuba hakkında daha fazla узкоспециализированном AI, ilk esasları hangi görebiliyoruz bugün.

Brooks da notları çok eleştirmen AI bile çalışmıyor, bu alanda veönerdi bu insanlar sadece anlamıyorum, ne kadar zor olur bir çözüm bulmak, her görev alanında.

«aslında düşünen insanlar AI varoluşsal bir tehdit değil, çok. Stephen Hawking, ingiliz astrofizikçi ve astronom Martin rees... ve birkaç kişi daha. İroni çoğu entegre bir özelliği – onlar bile çalışmıyor alanında yapay zeka», — dedi Brooks.

«aynı bizi kim ile çalışır AI, oldukça açıkçası, ne kadar zor olur elde etmek için çalışmak ne düzeyde bitmiş bir ürün».

Yanlış AI

Sorunun bir Parçası geliyor ve hala gerçeği dediğimiz tüm bu «yapay zeka». Gerçek şu ki, bu «akıl» gibi değil insan akıl, hangi dizinlerde ve sözcük sözlüklerde genellikle olarak açıklanan «öğrenme yeteneği, anlayış ve приспосабливаемости yeni durumlara».

Pascal Kaufmann, ceo Starmind, bir başlangıç, bir sunan yardım diğer şirketlere kullanımı, kolektif insan akıl arayışı içinde sorunlara çözüm iş alanında bir süre içinde, son 15 yıl okudu нейробиологию. İnsan beyni ve bilgisayar, notları Kaufman, çalışmak oldukça farklı ve belirgin bir hata, onları karşılaştırmak için.

«Benzetme, beyni bir bilgisayar gibi çalışır, çok tehlikeli ve değer engel progress AI gelişme», — diyor Kaufman.

Bir Uzman da inanıyor, biz işin başındayken hiçbirşey çıkmaz anlayışı içinde, insan aklı, eğer biz bir düşünün teknoloji açısından.

«Bu kafa karıştırıcı algoritmaları gibi çalışır insan beyni. İnsanlar sadece zevk algoritmaları, ve bu nedenle, onlar düşünmek, beyin tarif ile onlara yardım. Ben inanıyorum ki bu tamamen yanlıştır», — ekler Kaufman.

Eğer bir şey yanlış giderse

Sayısız örnekleri Vardır zaman AI algoritmaları kendilerini değil, çok akıllı, biz alışık onlar hakkında düşünmek. Ve biri, belki de en бесславных hizmet edebilir AI algoritması Tay (Tay) ekibi tarafından oluşturulan geliştirme AI-sistemleri şirketi Microsoft ve eskimiş kontrolden geçen yıl. Az aldı bir gün, açmak için bot mevcut расиста. Uzmanlar, bu sorun oluşabilir herhangi bir AI sistemi ne zaman ona bir teklif kötü örnekleri taklit. Bu durumda, Tau, o etkisi altına girdi, ırkçı ve diğer küfürlü sözcük sözcük formlarını. O programlanmıştır «eğitim» ve «ayna davranışları», kısa bir süre sonra kontrolden çıktı araştırmacılar.

Bir parçası olarak alınan yaygın araştırma uzmanı Cornell ve Вайомингского üniversiteler kuruldu, bu çok kolay bir hile algoritmaları, eğitimli kimlik, dijital görüntü. Uzmanlar bulduk bir resim gibi görünüyordu, «скремблированная saçma» insanlar için algoritması tarafından belirlenir görüntü olarak herhangi bir gündelik nesne gibi «okul otobüsü».

Yayınlanan bir makaleye Göre, MIT Tech Review ve описывавшей bu projeyi sonuna kadar açıktır neden bir algoritma hile ve daha bir şekilde, hangi yaptığımız araştırmacılar. Ne olduğunu anlamaya başardı, bu yüzden bir şey öğrendim insanlar tanımak, onlardan önce yer alan – ya da kendine yeten bir resim, ya da bir tür garip bir görüntü. Algoritmalar, sırayla, анализирующие piksel, kolay yenik manipülasyon ve aldatma.

Gelince kendi kendini yöneten araç, burada çıkıyor, her şey çok daha zor. Bazı şeyler vardır, bir kişi anlar, ne zaman hazırlanıyor karşılaşabilirsiniz bazı durumlarda. Makine aynı bu konuda eğitmek çok zor olacak. Büyük yayınlanan bir makaleye bir otomobil blog Rodney Brooks, bu yılın ocak ayında, bazı örnekler gibi durumlar da dahil olmak üzere hangi açıklamaktadır insansız araba yaklaşıyor, yol işareti «Dur» bulunan yaya geçiş bulunan, başında olduğu değer ve iletişim yetişkin ile bir çocuk.

Algoritma, büyük olasılıkla, kullanmak için sabırsızlanıyorum geçiş yayalar caddenin karşısında. Ama eğer bu yayalar ve düşünceler yoktu, yol çapraz, onlar ayakta bekliyor, diyelim ki, bir okul otobüsü? Sürücü-bir kişi bu durumda olabilir işaret yayalar, cevap olabilir onu dalga el bildirerek hakkında, o anlaşıldı. İnsansız araba böyle bir durumda sadece takılıyorum sıkıca, sonsuz geçiş için bekleyen insanlar karşısında, çünkü algoritma sahip bir anlayış, böyle harika bir insan sinyal yazıyor Brooks.

Her biri bu gibi örnekler bize gösteriyor, ne kadar uzakta bize henüz ilerlemek gelişimi yapay zeka algoritmaları. Ne kadar mümkün olacak, başarılı geliştiriciler yaygın AI – bu başka bir soru. Vardır bir şey, diğer kişi için yeteneğine sahiptir, kolayca başa çıkmak için, ancak, öğrenme algoritması, bu gerçek bir işkence. Neden? Çünkü biz, insanlar için sınırlı değildir, bizim eğitim seti, belirli bir görev.