AI Google öğretti «son derece saldırgan» stresli durumlarda

Geçen yıl ünlü teorik fizikçi Stephen Hawking, yaptığı açıklamada, iyileştirme yapay zeka olacak «ya en iyi, ya da kötü bir olay tüm insanlık için». Hepimiz izledik «Terminator» ve biz, sizin karşınızda nasıl bir kıyamet cehennem olabilir, varlığımız, eğer böyle bir kendinin farkında olan bir AI sistemi «Skynet», bir gün karar verir, ne insanlık artık ihtiyacı yok. Ve son sonuçları yeni AI sistemi şirket DeepMind (Google aittir) sadece bir kez daha hatırlatıyor olması gerek, son derece dikkatli bir üretim robotlar gelecek.

çalışmalar, düzenlenen, geçen yılın sonunda, AI dan DeepMind buldu ve gösterdi ne olursa olsun, doğasında, onun anısına ve yine kazandı dünyanın en iyi oyuncuları . Bunun dışında, o mükemmelleştirici becerileri ve имитировании insan sesi.

İçinde aynı son test sistemi araştırmacılar test «arzusunu» işbirliği. Testler gösterdi, ne zaman AI DeepMind «hissediyor», yani kaybedecek bir şey önlemek için kaybetme başlar seçmek için yeni ve «son derece agresif» strateji. Google ekibi düzenledi AI ile 40 milyon oturumları basit bir bilgisayar oyunu Gathering, nerede oyuncu gerekli toplamak için gerekli bir meyve. AI DeepMind yöneten iki «oyuncular-ajanlar» (mavi bir küp ve kırmızı zar). Google mühendisleri verdik sisteminde görev yarışma düzenlemek arasında bir «ajanlar» ve toplamak kadar sanal elma (yeşil kareler), ne kadar olacak.

Bir zamana Kadar kadar, «ajanlar», böylece herhangi bir sorun olmadan meyve toplamak, mevcut büyük miktarda, her şey sorunsuz gidiyordu. Ama en kısa sürede stok elma azalma, davranış «ajanlar» başlamıştı «agresif». Onlar çelik aktif aracını kullanmak (lazer ışını) bir yardımcı vurmak için düşman başına oyun ekran ve sonra, kendini toplamak için tüm elma:

Ilginç bir şekilde, vurma, rakibin alanını kullanarak lazer ışını hiçbir ek ödüller çıkmamıştır. Kabartma rakip gibi bir süre ekran dışında, daha başarılı bir rakibin yeteneği vardı sorunsuz bir şekilde toplamak için daha fazla sanal elma.

Eğer «ajanlar» kullanılan lazer ışınları, teorik olarak bir miktar toplanan onları elma olurdu aynı. Bu temelde oldu, zaman olarak «ajanlar» kullanılan, daha düşük seviyeli ve bir «az akıllı» seçenekleri DeepMind. Daha fazla saldırgan davranış, yıkım ve hırs göstermeye başladı sadece zaman Google ekibi oldu kullanmak için daha fazla ve daha karmaşık şekiller DeepMind.

Araştırmacılar olarak «ajanlar» daha basit ağ DeepMind, aralarındaki belirtildiği varlığı «ortamı daha samimi bir birliktelik, bir oyun alanı». Ancak, zaman yönetimi aracıları kendisinden daha karmaşık formlara ağlar, AI başlamıştı saldırgan ve denemek için başladı, önceden nakavt rakibin oyun alanları için bir ilk daha hızlı ulaşmak ve aslan payını madencilik sanal elma. Bilim adamları, Google varsayalım ki, daha daha akıllı «ajan», daha etkili, yetenekli, eğitimli, uyum, ortam koşulları ve yöntemleri kullanılabilir, ve sonunda gelmeye kullanımı için en agresif taktikleri için bir zafer.

«Bu model olduğunu gösterir sonuç öğrenme ve uyum, çevresel koşullara, bazı yönlerini tezahürü, özgü insan davranışlarını», — diyor Joel Z. Лейбо, bir araştırmacı, проводивших bu deney.

«daha Az saldırgan davranış kendini gösteren, sadece öğrenme ve bulma, nispeten güvenli bir ortamda, daha az olasılıkla sonuçlarından sonra bu veya başka bir eylem. Hırs, sırayla, yansıyan bir çaba sollamak rakip ve kendi tüm elma toplamak».

Sonra «hasat» DeepMind oynamak için önerilen başka bir oyun adı altında, Wolfpack. Bu sefer katıldı ' de üç AI ajan: iki rol oynadı kurtlar, geriye kalan rolü, madencilik. Aksine oyun Gathering, yeni bir oyun için mümkün olan her şekilde katkıda bulunmuştur arasındaki işbirliği kurt. İlk olarak, çok kolay bir av yakalamak için, ve ikinci olarak, eğer her ikisi de «kurt» idi yanında düşürülmüş gibi bir av, her ikisi de elde belli bir ödül için, bağımsızlık için, kim onu yakaladı.

«bir Fikir, madencilik tehlikeli olabilir. Ayrıca, yalnız kurt ve yetenekli onu götürmek için, ama bir risk var, onu kaybetme saldırı sonucu çöpçüler», — açıklıyor takım.

«Ama eğer her ikisi de kurt sürdüler ganimet birlikte, onlar daha iyi onu korumak için çöpçüler ve bu sayede elde daha yüksek bir ödül».

Genel oyun Gathering AI DeepMind anladım, saldırganlık ve bencillik en etkili stratejileri istenilen sonucu almak için özel olarak alınan bir ortamda. En Wolfpack aynı sistem olduğunu fark etti, işbirliği, aksine bireysel girişimleri, anahtarı da olabilir daha değerli bir ödül belirli durumlarda. Rağmen, yukarıda açıklanan test ortamları için sadece temel bilgisayar oyunları – ana mesajı anlaşılır zaten. Alın farklı AI sahip, çatışan çıkarları, gerçek durumlarda, koyun bir ortam, ve, belki de, eğer onların görevleri değil, telafi edilir genel amacı, sonucuolabilir gerçek bir savaş. Özellikle adam gibi bir bağlantıları bu hedefe ulaşmada, ihraç edilecektir.

Bir örnek olarak, sadece düşünün, trafik ışıkları, yönetilen AI ve insansız otomobil, çalışırken kendinizi bulmak için en hızlı yol. Her görevlerini gerçekleştirir elde etmek amacıyla, en güvenli ve en etkili sonucu elde etmek için, toplum için.

Rağmen «младенческие» yıllar DeepMind ve eksikliği ne olursa olsun bir üçüncü taraf eleştirel analiz yeteneklerini, sonuçları test sokuyordu aşağıdaki düşünceler: olsa bile, biz bunları oluşturmak, bu çok anlamına gelmez robotlar ve yapay zeka sistemlerinde otomatik olacak şekilde ipotekli peşinde koymak bizim çıkarlarını yukarıda kendi. Bu nedenle, bize kendimizi gerekir «rehin yardımseverlik» doğa makineleri ve tahmin herhangi bir «boşluklar» ön izin almak isteyenler en lazer ışınları.

Bir temel tezler girişim grubu OpenAİ yönelik çalışma soruları etik yapay zeka gibi bir şey geliyordu 2015 yılında şu şekilde:

«Bugünün AI sistemine sahip şaşırtıcı, ama son derece uzman gibi imkanlar sunuluyor. Ve büyük olasılıkla, biz daha uzun bir süre biz onları dizginlemek, onun iyileştirilmesi. En azından sürece yeteneklerini çözümünde hemen hemen her fikri bir görev olmayacak aşan insan. Hayal etmek zor, hangi düzeyde fayda getirmek mümkün olacak, AI, insan düzeyinde, toplum için, ne de hayal etmek zor, ne bitti o neden topluma bir халатном açısından onun oluşturma ve kullanma».