Katil robotlar? Dur, hatta iyi robotlar öngörülemeyen korku

Yöneticiler daha yüzlerce önde gelen şirketleri alanında yapay zeka çok endişe gelişimi «katil robotlar». Açık mektupta, BM bu iş liderleri de dahil olmak üzere Ilona Maske Tesla ve kurucu гугловской DeepMind – uyardı teknolojileri kullanarak otonom silah alınabilir teröristler ve деспотами, ya da değişen derecelerde maruz hırsızlık.

Ama gerçek bir tehdit çok daha ciddi ve bir anlaşma değil, sadece insan suç, ama yerel. Çalışma karmaşık sistemler gösterir, ne onlar-ebilmek yapmak kendinizi çok daha tahmin edilemez, daha söylenebilir miktarı bireysel bir eylem. Bir yandan bu demektir ki, insan toplumu davranabilir tamamen farklı bir şekilde, daha beklediğiniz davranış eğitimi bireylerin. Öte yandan, bu uygulanabilir ve teknoloji. Hatta ekosistem basit programlar yapay zeka dediğimiz künt, iyi botlar – hayran olabilir bize. Hatta bireysel botlar davranması korkunç.

Tek Tek öğeleri oluşturan karmaşık bir sistem gibi ekonomik piyasalar ya da küresel hava eğilim var etkileşim basit doğrusal bir şekilde. Bu sistem için çok zor bir modelleme ve anlayış. Örneğin, daha sonra çok yıllık iklim araştırmaları imkansız, tahmin etmek, uzun vadeli bir davranış böyle. Bu sistem çok hassas küçük değişikliklere ne kadar patlayıcı bir madde onlara tepki. Çok zor durum tam böyle bir sistem içinde ayrı ayrı bir noktada. Bütün bunlar bu sistem dahili olarak tahmin edilemez.

Tüm bu ilkeler, büyük insan grupları için geçerli olan kendi, olsun, insan, toplum ya da grup botlar yapay zeka ile. Son zamanlarda, bilim adamları okudu türlerinden biri karmaşık bir sistemi, hangi iyi botlar için kullanılan otomatik düzenleme makaleler Wikipedia. Bu, en farklı botlar tasarlanmış, yazılmış ve kullanılan güvenilir editörler Wikipedia, onların temel yazılım açık kaynak kodlu ve herkes tarafından kullanılabilir. Tek tek onlar ortak bir amacı geliştirmek için bir ansiklopedi. Ancak bunları kolektif bir davranış ortaya şaşırtıcı derecede etkisiz.

Temel çalışma bu botlar Wikipedia ile iyi yalan belirlenen kurallar ve şartlanmalar, ama çünkü bir web sitesi yok merkezi yönetim sistemi, hayır ve etkin bir koordinasyon insanlar arasındaki durum, farklı botlar. Sonuçlar geldi çift bot, birkaç yıl olmuş düzenleme birbirimizi ve kimse fark ettim. Ve, tabii ki, çünkü bu botlar hiçbir şekilde öğrenirler, onlar da farkında değil.

Bu botlar için tasarlanmıştır sürecini hızlandırmak düzenleme. Ama küçük tasarım farklılıkları botlar ya da insanlar arasında, onları kullanan, neden olabilir kitle harcanan kaynak içinde devam eden bir «savaş» düzenleme, bir izin, çok daha hızlı kullanarak, editörler.

Araştırmacılar, botlar farklı davrandığını, farklı dil sürümleri Vikipedi. Kurallar, görünüşte hemen hemen aynıdır, amaç aynıdır, teknoloji benzer. Ama almanca konuşulan Wikipedia işbirliği botlar çok daha verimli ve daha üretken, örneğin, portekiz. Bunu açıklamak için sadece editörler arasında farklılıklar-insanlar diyarı bu botlar farklı ortamlarda.

Üstel karışıklık

Botlar Wikipedia ile sahip olmayan geniş bir özerklik ve sistem zaten çalışmıyor hedefleri doğrultusunda bireysel botlar. Ama Wikimedia Foundation kullanmayı planlıyor AI verecek daha fazla özerklik bu botham'ın. Ve bu, büyük olasılıkla, neden olur, daha da beklenmedik davranış.

İyi bir örnek olabilir göstermiştir botlar tarafından oluşturulan insanlarla konuşmak için, ne zaman onları zorla birbirleri ile iletişim kurmak için. Biz artık merak ediyorum cevapları kişisel asistan Siri gibi. Ama onları birbirleri ile iletişim kurmak ve onlar hızlı bir şekilde davranmaya başlar beklenmedik bir şekilde, iddia ve hatta hakaret birbirimizi.

Daha fazla olur, sistem ve daha bağımsız olur her bot, daha karmaşık ve öngörülemeyen bir geleceği olacak bir davranış bu sistem. Vikipedi, örnek çalışmaları çok sayıda, nispeten basit bir bot. Bir örnek ile sohbet botlar bu örnek az sayıda nispeten karmaşık ve yaratıcı botlar – her iki durumda da, ortaya çıkan beklenmedik çatışmalar. Karmaşıklığı ve dolayısıyla belirsizliğin katlanarak büyür eklendikçe oturum bireysellik. Bu nedenle, ne zaman gelecekte olacak bir sistem bir sürü çok karmaşık robotlar, tahmin edilemezlik, onların dışına bizim hayal.

Полыхающее madness

Самоуправляемы arabalar, örneğin, söz gerçekleştirmek için bir atılım verimliliği ve trafik güvenliği. Ama biz henüz bilmiyoruz, ne olacak, biz büyük bir vahşi sistem tamamen özerk araçlar. Onlar farklı davranır, hatta içinde küçük bir filo ve bireysel kiralama kontrollü bir ortamda. Ve daha beklenmeyen davranış ortaya çıkabilir, ne zaman kendi kendini yöneten otomobil, «eğitimli» farklı insanlarla, farklı yerlerde başlayacak birbirleri ile etkileşim.

İnsanlar yeni kurallara uyum ve anlaşmaları, nispeten hızlı ama zor geçiş sistemleri arasında.Yapay ajanlar bile zor olabilir. Örneğin, «eğitimli» Almanya'da araba gitmek, örneğin, İtalya, bilmiyoruz, o usta, yazılı olmayan kültürel anlaşmanın ardından, diğer pek çok «eğitimli» İtalya'da araba. Bir şey, gündelik gibi bir kavşak geçiş olabilir ölümcül riskli, çünkü biz sadece bilmiyorum olacak mı makine etkileşim, beklendiği gibi, ya da davranmaya başlar tahmin edilemez.

şimdi düşünün öldürücü robotlar, rahatsız Maske ve arkadaşları. Bir katil robot-ebilmek var olmak çok tehlikeli, bu elinde. Sistem öngörülemeyen katil robotlar? Kendiniz için düşünün.