Neuralink Ilona Maske. Yedinci bölüm: büyük birleşme

Düşünün yabancı bir gezgin ziyarete geliyor yeni bir yıldız keşfeder ve onun etrafında dönmesi, üç gezegenin ve tüm yaşam. İlk aynı olacak Zemin kat 10 milyon yıl m. ö. İkinci olacak aynı Yere zamanların 50 000 yıl m. ö. Üçüncü aynı olacak Zemin kat 2017.

Uzaylı değil usta ilkel biyolojik yaşam, ama çözüldü uçmak her üç gezegen bakarak her bir teleskop yardımı. İlk o görür, bol su, ağaçlar, dağlar ve birkaç belirtileri için hayvan yaşam. Gördüğü bir fil sürüsü afrika ovaları, bir grup yunus, проплывающих okyanusta, ve daha bir kaç ... orada ve burada yaşayan, onun hayat.

Ikinci bir gezegen daha hayvan, ama onlar çok farklı. Orada garip bir şey — rastgele küçük noktalar parıldayan bir ışık, усеивающего arazi.

Заскучав geçer üçüncü gezegen. Vay be. Gördüğü uçan uçaklar arazi üzerinde dev bir meydanı gri zemin ile yükselen onunla binalar, gemiler, farklı boyutlarda, бороздящие deniz, uzun tren yolu, uzanan üzerinden kıtalar ve onun uzay gemisi zorlukla karşı karşıya olduğu bir arkadaşı geliyor.

Eve Gitmek, o rapor hakkında nakhodka. «İki gezegen ile ilkel bir hayat ve bir makul bir hayat».

Onun bulguları görünüyor, mantıklı ve anlaşılır, ama yanılıyor.

Aslında garip olacak ilk gezegen. İkinci ve üçüncü gezegenlerde zeki yaşam — eşit, makul. O kadar eşit, ne yapabilirsiniz çalmak bir çocuğun ikinci bir gezegen ve değiştirmek onları bir çocuğun üçüncü gezegen, ve her ikisi de artacak normal insanlar, herhangi bir sorun olmadan. Aynı insanlar.

Ve yine, nasıl oldu?

Colossus İnsan. İşte nasıl.

Hiç düşündünüz mü, neden insanlar etkileyici değil, bize kadar ulaşan insanlık?

Çünkü insanlar hala bu en insanlar ikinci bir gezegen.

Getirin bir insan bir çocuk bir grup şempanze ve onları büyümek tarzı Tarzan ve yetişkin olarak, bu adam nasıl bilecek koşmak, orman, atlama, ağaçlara, yiyecek aramak ve mastürbasyon. Çünkü her birimiz, aslında.

İnsanlık, diğer taraftan, — bu сверхразумный, son derece meraklı, milenyum Colossus ile 7,5 milyar nöron vardır. O inşa üçüncü bir gezegen.

Buluş dil sağladı her insana beyin ile sıkıştırmak bilginizi tane ölmeden önce, ve bu bir tane проросло bütün bir kule daha yüksek ve daha yüksek, şimdiye kadar bir günde yok oldu beyin büyük Dev bir inşa etti ve bize bir medeniyet. O zamandan beri, Colossus İnsan her şeyi icat ve icat, daha iyi olur zamanla. Takıntılı bir arzu için değer yaratmak, Colossus hamle ile büyük bir rüzgar ve biz hissediyorum çünkü bunu yaşıyoruz, en sıradışı zaman bütün hikaye.

Unutmayın, ben söylemiştim, belki de yaşamak arasındaki sınırda, iki büyük эрами iletişim?

Olabilir ve böylece biz büyük bir tarihi fırsatta. Sonra 1000 yüzyıllardır insan hayatının ve 3,8 milyar yıllık dünya hayatında, bu yüzyıl düzenlemenin bizim için bir geçiş dönemi içinde bir gezegen многопланетную bir dönem. Bu yüzyıl olabilir. yüzyıla kadar, ne zaman dünyevi rı mümkün kapmak genetik kod inatçı pençeleri evrim ve öğrenmek, kendinizi yeniden programlamak. Bugün yaşayan insanlar tanık noktaya biyoteknoloji sonunda serbest kalacak insan yaşam doğa yasalarının ileteceklerini ve onun iradesine her kişi.

Colossus İnsan tamamen yeni bir seviyeye geçti güç — kuvvet yok olabilir bir dönem uzunluğunda 3,8 milyar yıl — ve bizi koydu eşiğine çok sayıda devrilme noktası için yol gösterecek, akıl almaz değişiklikler. Ve bir dostumuz uzaylı bir kez tespit, dördüncü bir gezegen olacak aynı Yere 2100 yılında kesin olacak ve benzer üçüncü bir gezegen.

Umarım hoşunuza üçüncü gezegen, çünkü biz onunla yaşıyoruz. Ama biz gelecek dördüncü gezegen, biz bununya da değil.

Olsaydı özetlemek her şeyi yapar Musk, oldu ... oldukça basit:

Istediği için bize hazırlamak dördüncü gezegen.

O düşündüğü geniş kategoriler ve görür gezegende yaşam sadece maksimum kapsama. Bu yüzden onun eylemleri gibi görünüyor, tamamen gerçeklikten kopuk (ve bu harika прозорливыми). Bu onu çok rahatsız ediyor.

Hiçbir şey için, kendisinin dördüncü gezegeni kötü bir yer — o itiraf, o olabilir, bu nedenle ve bu nesil, yaşayan, bugün, kendileri farkında olmadan, tarihinde ilk kez karşılaşılan bu tehdit insanlığın hayatta kalması için.

Aynı zamanda bugün yaşayan insanlar da ilk defa yaşamak umudu ile gerçek bir ütopik gelecek bir meydan bile ölüm ve vergi. Dördüncü gezegen bizim olacak promised land.

Eğer bir göz, uzaktan belli olur, ne kadar yüksek bahis.

Ve sonuç belirlenir sadece bir heves bir durum — bu tespit bir heves Dev İnsan. Dördüncü gezegen görünür, çünkü sadece onu oluşturur Colossus. Ve geleceğimiz gibi cennet veya cehennem, bu bağlıdır, ne yapacak Colossus. Belki de, önümüzdeki 150 yıl, belki de 50. Ya da 25.

Üzücü bir hikaye bir şey,, Colossus İnsan değil optimize edilmiş maksimum başarı için güvenli bir geçiş için en iyi olası dördüncü gezegenlerin çoğu insan için — optimize edilmiştir oluşturmak için dördüncü bir gezegenin herhangi bir şekilde, mümkün olduğunca hızlı.

Tüm bu Fark, Ilon hayatını adamış etkilemek için bir girişim Colossus İnsan getirmek için motivasyon ile uyumlu uzun vadeli çıkarları insan. O bilir ki imkansız yeniden Colossus İnsan — eğer sadece bir tehdit hayatta kalmak için değil oluşur hemen her insan önce bir burun, ve bu genellikle olmuyor son ana kadar — bu nedenle, ifade eder Колоссу gibi evcil hayvanıma.

Eğer senin köpek oturdu, ilişkilendirmek «otur» komutu ile elde zevk. İçin Dev İnsan zevk sulu yeni sanayi, patlar aynı anda arz ve talep.

Ilon gördüm, bu köpek Dev İnsan pees halı, sürekli atmadan karbon atmosfer — ve bunun yerine bir köpek cezalandırmak ve ikna etmek için değil, yazmak için halı (ki, bu arada, başarısız yapmak için çalışıyoruz birçok) veya sınırlamak için bir davranış (denemek için başarısız yapmak hükümetleri), yarattığı elektrikli otomobil çok yakında yenecek bir dünya. Otomotiv endüstrisi yavaş yavaş kayıyor bir bu tarafa, ve sonra dokuz yıl sonra Tesla yayımladı, ilk araba, şirket sayısı, sahip elektrikli araç, kendi üretim hattı değiştirildi sıfırdan hemen hemen tüm. Köpek Colossus aldı sop ve davranışlarını değiştirmek.

Ilon gördüm, nasıl bir köpek Dev bir İnsan kurtarmak için çalışırken, tüm yumurtaları tek bir gezegen olmasına rağmen, bütün bu dönüm noktaları tarihin, bu yüzden yarattı SpaceX, öğrenmek için bir yerde tutacak bir roket, bir keser maliyetini uzay yolculuğu %99 ve hızlandıracak bir gelişme bu sektörde. Onun planı Mars ile oluşur gibi, ikna etmek insanlık, serin — medeniyet oluşturmak Kızıl gezegen diye garanti altına almak için hayat sigortası görünüm ve oluşturmak için işleyen bir sabit yük ve yolcu transit Mars, çünkü zamanı geldiğinde, Mars yeterli olacaktır oluşturulan değerler için onlara ilgi Colossus.

Ama en kötüsü, göre, Ilona, şey,, Colossus öğretmek için çalışan Dev bir Bilgisayar düşünüyorum. Göre, Ilona ve diğer birçok gelişme anlaman yapay zeka en büyük tehdidi oluşturmaktadır insanlığın hayatta kalması için. Ve anlamak zor değil neden. Akıl bize богоподобную gücü üzerinde güç tüm diğer varlıklar Yeryüzünde ve onlar için insan gücü en tatlı zaman. Eğer parçaları tel hayvan yapmak değerli bir şey olsaydı, biz yarattık, büyük sanayi, işleme, hayvan ve satan bu parçalar, tel ve öyle oldu. Bazen biz onları öldürme uğruna vızıltı, bunu keyif verici olarak görüyordu. Ama bunu hiçbir nefret, hiçbir arzusu zarar vermek kimseye, sadece bu yüzden tüm bu varlıklar, veya ekosistem, yoluna çıktık bizim ilgi, eylem, eylemleri, hareketleri. İnsanlar azarlama insanlık aşırı şiddet, ama her türlü fiil de öyle oldu bencil, ve ilk kural.

Sorun, diğer varlıklar gibi, biz ne bencil, ne var ortaya devasa onlar üzerinde güç. Güç, biz sağlamıştır akıllı bir avantaj.

Bu Nedenle mantıklı korku umutları kasıtlı bir şey oluşturmak olan (muhtemelen azami ölçüde) çok daha büyük bir zeka, daha biz, özellikle arka plan için, bu gezegen üzerindeki her bir kişi için ilk olabilir, kim yapacak.

Ve her şey çok hızlı gidiyor. Ilon anlatıyor hızlı bir ilerleme yapar oynayan oyun AI Google:

Bu iki durum AlphaGo mağlup insan oyuncular ile bire bir betimleme Mi Седоля oyunları dört, beş, ve şimdi o yenmek için her insan her oyunda oynarken aynı anda 50 en iyi oyuncular, ve her zaman onları kazanmak, sonsuza dek. Sadece bir yıl.

Ve bu, söz konusu böyle bir zararsız bir şey gibi AlphaGo. Ama özgürlük derecesi, hangi AI-ebilmek kazanmak, sürekli artıyor. İnci çok daha fazla serbestlik, daha satranç, ama alırsak, herhangi bir strateji modundagerçek zamanlı gibi League of Legends veya Dota 2, çok daha fazla serbestlik, daha guo, AI kadar kazanmak değil. Ama öğreneceksiniz. Sonra takip edilecek bir gerçeklik ile maksimum sayıda serbestlik derecesi.

Açıkçası, burada bir şey var tecrübe:

son birkaç yıl içinde fark ettim AI kesinlikle çok daha aşacak insan zeka. Bazı riskler var, ne olur kötü bir şey, bir şey yapamayız kontrol etmek için, kontrol edemez insanoğlu. Belirli bir noktadan sonra ya da bir grup insanın tekeline AI ya da AI harika bir yer olduğunu kısa serbest yüzme, gibi bir şey bu. Belki öyle, belki değil.

Ama tipik bir biçimde Dev İnsan «kolektif irade olmaz tabi tehlike II».

Ne Zaman ben röportaj Ilona 2015 yılında, ben sordum, o hiç meşgul yapımında yapay сверхинтеллекта. Dedi ki: «dürüst olmak gerekirse, ben inanıyorum ki, biz onu oluşturmak». Ve ben daha sonra dedi, bir şey yaratmak için daha akıllı, daha kendin gibi дарвиновскую bir hata (bu cümleyi çaldım Nick'in Бострома), Ilon cevap verdi: «Biz prim Darwin'in topluca».

Şimdi, iki yıl sonra, o şunları söylüyor:

Ben çalıştım uygulamak için bir alarm sinyali konulu AI, ama açıkçası hiçbir etkisi vardı (gülüyor), bu yüzden karar verdim: madem öyle, hadi geliştirmek için tüm iyi oldu.

Kabul etti gerçeklik — Colossus İnsan gitmiyor, kadar bir gün uyandığında Dev bir Bilgisayar. Bu olabilir.

Olursa olsun, size, orada, bir söz, hiç kimse ne olacağını bilmiyor, ne zaman Colossus Bilgisayar öğrenmek düşünüyorum. Uzun bir makale, bir konu üzerinde AI araştırdım her iki tarafta argümanlar biri ikna yapay сверхинтеллект olacak çözüm tüm sorunlarımızın, diğeri insanlık — bu grup çocuklar oynarken bomba ile istediğiniz anlamıyorum. Şahsen, ben hala kararsız kamp ile, hangi daha fazla güveniyorum, bu yüzden sanırım en rasyonel ve en kötü için hazırlamak ve yapmak için en iyi başarı şansını artırmak. Birçok uzman katılıyorum bu mantık, ancak müzakere stratejileri, güvenli bir ISI oluşturmak. İnsanlar sadece bilmiyorum cevap. Hangi önlemler alınabilir karşısında bir dünya anlamak mümkün değil?

Ilon de tanır, ne bilir, bir yanıt, ama bir plan üzerinde çalışıyor, olan, ona göre, bize iyi bir sonuç.

Planı Ilona

Abraham Lincoln gurur duydum kendimle, ne zaman geldi bu satır:

— hükümet, halkın yönetilen bir ulus ve bir halk için asla yeryüzünden kaybolur.

Dürüst dikiş iyidir.

Tüm bu fikir, «insanlar hakkında, insanlar için, insanlar için» demokrasinin temeli.

Ne yazık ki, «insanlar» kötü. Bu nedenle, demokrasi zahmetli olur. Ama hoş olmayan, genellikle, döner masal, alternatifleri ile karşılaştırıldığında. Ilon düşünüyor:

Sanırım, koruma ekip çok önemlidir. Bence tam Churchill: «Demokrasi en kötü tüm yönetim sistemleri saymazsak, diğer tüm». Tamam, zaman zaman bir kral iyi bir filozof düzeyinde Plato. Güzel olurdu. Ama şimdi çoğu diktatörler böyle düşünmüyoruz. Bu nedenle, onlar korkunç.

Başka bir deyişle, demokrasi yoludur sığınmak canavar, nerede olursan ol kanalizasyon.

Hayatta sık sık, ne zaman, risk ve iyi bir strateji, hem bir şans, olası en iyi sonuç, ama ne zaman oranları en yüksek, doğru bir hamle güvenli olmalıdır. Güç biri gibi durumlar. Bu nedenle olsa bile, demokrasi, şehrin belirli bir düzeyde sıradanlık, Ilon diyor, «olası bir ABD-ecek bulmak bir sürü insan savunduğu ... ... diktatörlük, ne olursa olsun, hakkında ne düşündüğünü ya da başka bir başkan».

çünkü Ilon görür AI mükemmel bir kuvvet ve güç gelişimi için AI olacak nihai güvenli bir kalkınma stratejisi durumda. Bu nedenle, bu strateji en aza indirmek varoluşsal riskleri AI amacı, güç AI olacak insanlar için, insanlar için, yönetilen insanlar.

Uygulamak İçin bu kavramı alan AI, Ilon yaklaştı duruma farklı açılardan.

«insanlar İçin ve insanlar için,» o ve Sam Altman — самопровозглашенную «kar amacı gütmeyen bir araştırma şirketi AI açan ve kabul eden bir ders geliştirme, güvenlik, yapay zeka, genel düzeyde».

Genellikle, ne zaman insanlık üzerinde çalışıyor, yeni bir şey, bir iş ile başlar, yenilik birkaç kişi. Onlar başarıya ulaşmak için, doğar sanayi ve Colossus İnsan запрыгивает bir gemiye topluca benimsemek temeli üzerine, заложенном öncü sanayi.

Ama, eğer bu öncüleri üzerinde çalışılan bir sihirli değnek olabilir vermek kim ona ait, büyük, yenilmez bir güç tüm diğerleri üzerinde de dahil olmak üzere bir ittifaka için hiç kimsenin yapabileceği bir sihirli değnek? İlginç bir durum, değil mi?

Tam Ilon inceliyor bugünün kalkınma çabaları II. Çünkü o insanları durdurmak için girişimleri oluşturmak için sihirli bir değnek, bir çözüm oluşturmaktır açık, işbirliğine dayalı ve şeffaf laboratuvarı sihirli sopa. Ne zaman laboratuvarda geliştirilen bir şey, rahim, o, hemen olur açık ve bilinen tüm ve herkes için, утаивается gizli.

Bir yandan, bu yaklaşımın aynı zamanda kendi dezavantajları vardır. Kötü adamlar çok çalışıyorlar oluşturmak için sihirli değnek istemiyorsanız, ilk sihirli değnek vurdueller kötü adamlar. Ve şimdi kötü adamlar yararlanabilir, tüm yenilik, çamaşır ayrılmıştır lab. Bu ciddi bir sorun.

Ama laboratuvar değil de yardımcı olur diğer milyonlarca insan, çalışan oluşturmak için sihirli değnek. İçin gizli pioneer bu durum, ciddi bir rekabet ve daha az muhtemel herhangi bir mucit oluşturabilirsiniz sihirli değnek önce diğerleri de yapacak. Büyük olasılıkla, ilk sihirli değnek sonunda görünür, onunla birlikte görünecektir binlerce farklı sopa, farklı yetenekleri, oluşturulan farklı insanlar farklı nedenlerle. Eğer Yeryüzünde görünür sihirli değnek olduğunu düşünüyor Ilon, biz en azından biz emin olacak elinde farklı insanların dünya çapında elinde bir yüce büyücü.

Eğer her gezegen Kripton, her şey yolunda. Ama eğer sadece bir Superman ile kazançlar Hitler, bir sorunumuz var.

Daha geniş Bir anlamda, sihirli değnek, bir инноватора, büyük bir olasılıkla, hizmet ihtiyaçları ve hedefleri ona benzer bir mucit. Ama eğer yapmak gelecekteki şubesi sihirli değneklerini kolektif bir iştir, çok çeşitli ihtiyaçları ve hedefleri oluşturmak için izin birçok sihirli sopa karşılayacak ihtiyaçları kütle.

Yani, nasıl ve demokrasi.

Nicolet Тесле, Henry Ford, Wright kardeşler ve Alan Тьюрингу tarifsiz şanslı devrimi ile başladı, onları devrimler. Ama uğraşırken icadı bir şey, inanılmaz derecede güçlü, siz arkanıza yaslanın ve инноваторам karıştırmasını çok kalır için bir fırsat.

OpenAİ bu girişimi demokratikleştirilmesi oluşturmak için yapay zeka tüm Colossus İnsan bunun üzerinde çalıştı sırasında öncü faz. Ilon özetliyor:

AI kesinlikle aşacak insan yetenekleri. Sürece o-ecek bağlı, insan iradesine, özellikle toplamına irade çok sayıda insan, onun eylemleri ile belirlenecek bir sürü insan, çünkü bu işlev doğrultusunda, kendi irade sahibi.

Ve işte kazandınız сверхсильный AI düzeyinde bir kişinin veya yukarıda yapıldığı insanlar tarafından ve insanlar için. Bu olasılığını azaltır dünya AI olacağına elinde kötü bir insan ya da yakından kontrollü bir tekel.

Şimdi geriye ne kaldı, — bu insanlar.

Ama şimdi daha kolay olacak. Unutmayın, Colossus İnsan oluşturur yapay сверхинтеллект aynı sebepten oluşturur makineleri, konveyörler ve bilgisayarlar gibi onun için ek vardiya iş аутсорс. Makine yürümek bizim için, fabrika konveyörler üretmek bizim için parçalar, bilgisayarlar, bilgileri saklamak, düzenlemek ve düşünün.

Oluşturma bilgisayarlar düşünebilir olacak bizim en büyük icadı — onlar bize izin üretmek için dış kaynak bizim en önemli ve son derece etkili bir çalışma. Düşünce yarattı her şeyi var, bu yüzden sadece hayal gücü gelecektir anlaman düşünce ek. Ve ek olarak, insan, tanımı gereği, insanlara aittir.

Tek bir şey Var,

AI yüksek kalibreli değil, çok benzer bir başka buluş. Geri kalanı bizim teknoloji güzel ki, o-ebilmek oluşturmak, ama sonunda tüm bu — ruhsuz bir makine ile dar, sınırlı zeka. AI, bir biz oluşturmak için çalışıyoruz, olacak akıllı bir kişi olarak, gerçekten «deli» akıllı bir adam. Bu temelde farklı bir şey yapıyor, biz daha önce neden bekliyoruz o zaman, ona geçerli olacak genel kurallar?

Teknoloji, her zaman bize ait bu kadar bariz bir anda anlamsız görünüyor onu neden olabilir. Ama olabilir mi ki, eğer biz bir şey yapacağız, bir akıllı kişi, yönetmek bu kadar kolay olmaz mı?

Olabilir mi, ne kurulmasını düşünüyor, daha iyi herhangi bir kişi, Yeryüzünde reddedebilir hizmet için ek bir kişi bile oluşturuldu bu? Biz bilmiyoruz, ne gibi sorunlar ortaya çıkar — ama buna değer olduğunu varsayalım evet, onlar başlarının çaresine bakarlar.

Ve eğer öyle olur da bizim elimizde olacağına, ciddi bir sorun.

Çünkü, nasıl gösterir bir insan bir hikaye, bir gezegen üzerinde görünür bir şey diğerlerinden daha iyi, herkes için kötü. Eğer AI olacak en akıllı nesne gezegen ve aniden tamamen bize ait, o tek başınaydı. Çıkıyor, biz kendimizi kategorisinde «herkes».

Bu Nedenle, insanlar tekelci kontrolü AI, zaten kendileri bir sorun vardır ve bu sorunu OpenAİ çözmek için çalışıyor. Ama bu sorun olabilir блеклой yakın umudu ile yönetilmeyen AI.

Bu verir Ilona uyku. Gördüğü bu sadece bir zaman meselesi, yapay сверхинтеллект görünür, bu gezegendeki ve ne zaman olur, çok önemli diye, biz «herkes» için.

İşte bu yüzden geleceğin dünyasında oluşan AI ve «herkes», bize yalnızca iyi bir seçenek:

Olmak için AI.

* * *

Unutmayın, daha önce de söylemiştim, ne sihirli şapka ikiye ayrılır fikirler ihtiyacımız gerçekleştirmek için:

1. Tamamen inanılmaz bir fikir
2. Super-duper-çarpıcı, tamamen inanılmaz bir fikir

İşte biz maç ikinci.

Bu iki fikir ima Ilon, ne zaman çağırır, sihirli şapka третичным dijital tabaka ile, bizim beynimizde. İlk olarak, öğrendik ki, общемозговой arayüzü, konsept — bu benzer yerleştirmek için bizim cihazlar bizim baş — böylece dönüştürerek, beyincihaz. Bunun gibi:

Cihazlar size сверхсилу cyborg ve açık bir pencere, dünya, dijital teknoloji. Bir dizi elektrot sizin sihirli şapka yeni bir beyin yapısı birbirine bağlayan senin лимбическую sistemi ve kabuk.

Ama senin limbik sistem, kabuğu ve sihirli şapka — bu sadece bir donanım parçası. Ne zaman hissediyorsun çalışmaları, limbik sistem, etkileşim değil fiziksel bir kısmını ve bilgi ile onun içinde. Etkinlik yani bu fiziksel bir sistem, bir köpüren bilinç, kızgın, korkmuş, küfür ya da açlık hissediyorum.

Ile aynı kabuğu. Peçete, sarılı beyin, depolar ve düzenler bir bilgi, ama ne zaman sen düşünmek, görmek, duymak ya da hissediyor şey ile etkileşim bilgileri. Görsel korteks kendisi için bir şey yapmaz, bu iş parçacığı foton, bilgi, üzerinden geçen ona verir deneyim durumuna görsel korteks. Ne zaman dalmış anılar için bir şey çıkarmak, aradığınız değil, nöronlar, aradığınız bilgilere bunların içinde saklanır.

Limbik sistem ve korteks — bu sadece gri madde. Activity stream gri madde oluşturur tanıdık iç karakter, maymun beyni ve rasyonel bir insan beyni.

Ne diyor hakkında tersiyer dijital bir katman?

Bu, şu, ne de olsa beyin gerçekten fiziksel bir aygıtı, — kendisi bir dizi elektrot — ana bileşeni, hangi ile uğraşmak zorunda olacak, olacak oku, geçer bir dizi.

Tam olarak aynı duygu ve dürtüler, limbik sistem, düşünce ve konuşkan bir ses kabuğu hissedilecek bir parçası olarak — sizin iç varlık — etkinlik, akan senin sihirli bir şapka, bir parçası olacak ve sizin varlık.

Vizyon Илоном dönemin büyücü olmasıdır şehirdeki birçok kullanım sihirli şapka biri atama olacak arasında bir arayüz beyin ve bulut sistemi II. Bu sistem, AI, dedi, olacak, gerçek bir karakter, bilinç, senin gibi bir maymun ve bir adam olacak, onu diğerleri ile eşit. O diyor ki:

sanırım, görünüşe göre yapmak için bir yol var, böylece tersiyer tabaka hissedilecek bir parçası olarak. Değil gibi harici bir cihaz gibi.

Kağıt Üzerinde mantıklı. Büyük bir kısmı doğru «düşünme» akar sizin korteks, ama ne zaman sen aç, sen deme: «benim limbik sistem aç», diyorsunuz ki: «ben aç değilim». Aynı şekilde, düşünüyor Ilon çalışırken, soruna bir çözüm bulmak ve AI cevabı bulacaktır, sen diyorsun: «benim AI cevap buldu», diyorsunuz: «ееее cevabı buldum». Ne zaman senin limbik sistem istiyor прокрастинировать ve kabuğu da çalışmak isteyen, herhangi bir kasılma arasında dış varlıklar yok oluyor, sadece bir olmak için çalışıyoruz дисциплинированнее. Aynı şekilde, ne zaman gelip bir çalışma stratejisi ve AI aynı fikirde değil, bu gerçek bir muhalefet ve ortaya bir diyalog ama bu sizin iç diyalog tartışmaları arasında bir hatip ve ikinci. Bu diyalog gibi olacak yansıma.

Kağıt Üzerinde mantıklı.

Ama ben ilk duydum Ilon diyor bu kavram hakkında, ben bir şey yakalamak için. Önemli değil kaç kez denedim, emmek, bu fikri, ama ben hayal edemiyorum nasıl bir şey olduğunu duymak için AI kafamda, o her zaman benim için bir dış sistem ile hangi muhattap olabildim. Onu bana değil.

Ama sonra, bir gece, üzerinde çalışırken bu yazı, ben tekrar okudum alıntı Ilona, ve aniden oturdu. AI olacak bana. Tam. Anladım.

Ve yine kaybetti iplik. Ertesi gün anlatmaya çalıştım yortu arkadaş, ikimiz de сконфузились. Ben geri düşünce «tanrım, ama ben değil ben, bu benimle ilişkisi». O zamandan beri, ben olamazdı yakalamak için istenen fikir için kuyruk. İyi bir karşılaştırma aldım, — bu uzay-zaman — tek bir kumaş. Bir saniye sanırım sezgisel, ne zaman yavaş hareket eder, eğer hareket ediyor çok hızlı bir şekilde. Ama düşünce yine kayboldu. Ben yazdığınız bu dizeler, ama onlar değil gibi görünüyor bana sezgisel.

Bir Fikir «yapay zeka» özellikle karmaşık, çünkü birleştirir iki baş döndürücü kavramı — нейрокомпьютерный arayüzü ve yetenek, o size verecektir, ve yapay zeka genel düzeyi. Bugün insanlar sadece anlayamıyorum, ne bir fikir, çünkü sürecinde hayal biz tahrik deneyimlerini, ve bu kavramlar aynı zamanda tamamen yeni bizim için. Bu gibi bir girişim tanıtmak için bir renk görmedim.

Bu yüzden, ne zaman duyuyorum Ilon inançla diyor bu konuda, ben ortada bir yerde, aynı anda inanan ve onu bölerek onun sözleri ikiye. Мечусь gidiş dönüş. Ama eğer o kabul o kim oluyor sezgisel bir fikir-mekan, zaman, yanı sıra bir kaç kim bilir nasıl Mars kolonize çalışıyorum dinleyin ne diyor.

Ve diyor ki, her şey bant genişliği. Tabii ki, bant genişliği gerekir yapmak için sihirli bir şapka yararlı. Ama Ilon inanıyor geldiğinde etkileşim ile AI, yüksek bant genişliği değil sadece tercih, ama temelde önemli bir potansiyel olabilir AI ile karşılaştırıldığında, kullanımı kolay AI. İşte o bu konuda ne düşünüyor:

Sorun, bant genişliği, bir iletişim son derece düşük, özellikle çıkış. Eğer yükseltmek, bilgi, telefon, çok yavaş slayt iki parmak. Bu çok yavaş ıletişim. Eğer bant genişliği çok düşük, senin ile entegrasyon AI çok zayıf. Kısıtları göz önüne alındığında, düşük bant genişliği, tüm anlamını kaybeder. AI sadece yaşamak için kendisi, çünkü biz çok yavaş onunla iletişim kurmak. Daha hızlı iletişim, daha fazla entegre edilebilir — daha yavaş bir iletişim, daha az. Ve daha biz bölünmüş — daha fazla AI «diğer» — ve daha büyük olasılıkla, o bize tükürmek. AI olacak, bireysel ve bizden daha zeki, emin, onları en iyi duruma getirme özelliği zarar vermez insanlığa? Eğer biz ulaşacağız yakın simbiyoz, AI değil, «diğer», o seninle akraba gibi, bir akraba ile limbik sistemi.

Ilon görür bant genişliği iletişim önemli bir faktör belirleyecek bir entegrasyon seviyesi ile AI, ve bu düzeyde bir entegrasyon için önemli bir faktör ek olarak, biz etkileyebilir AI gelecek:

biz bir seçim olacaktır: ya uzak kalmak ve olmak için bir işe yaramaz, bir evcil hayvan olarak ya da birleştirmek için bir AI ile.

Ancak, olmak için, bir ev alacaksınız — bu daha iyi bir sonuç.

Gerçek bir anlayış, ne tür bir AI olacak gezegende vardığımızda bir dönem yapay сверхинтеллекта, entegrasyon, insan ve AI kendisi olacak koruma nesli insan türü olarak. Bizim güvenlik açığı bir dönem AI olarak tezahür edecektir kötü insanları kontrol eden AI, ya da kaçak akıl hastalarının neye ihtiyacı AI istemeyen bir hareket değerleri doğrultusunda insan. Olduğu bir dünyada, milyonlarca insanın kontrol gücünü AI — ebilmek düşünmek AI ile, kendilerini savunmak için yardım AI, anlamak AI, çünkü entegre ile birlikte insanlar daha az savunmasız. İnsanlar güçlü ve korkutucu, ama dediği gibi, Ilon, herkes Superman olacak, bir Süpermen zor olacak büyük bir zarar olacak gibi bir şey denge. Ve biz pek kaybederiz kontrolü AI, çünkü yaygın olarak dağıtılan bir gezegende ve amacı farklı olacaktır.

Ama zaman önemli ölçüde bir değer. Ve bu vurgular Ilon:

ilerleme Hızı bu yönde önemlidir. Biz geliştirmek isteyen dijital сверхинтеллект önce ... ... sağlamak için iyi bir adres mektup birleştirme ile нейрокомпьютерным arayüzü.

Ben evirip tüm, ben ortaya bir soru: общемозгового arayüzü için yeterli bir entegrasyon yapmak mümkün ve muhtemel. Ilon kaydetti arasındaki fark, bizim, tatlı rüzgar rüzgar düşünme ve hızlı düşünme, bir bilgisayar hala büyük.

Ancak artan bant genişliği onu daha yüksektir. Ve bu doğru. Çözecek bu sorunu? Hayır. Doğru mu bu? Evet. Eğer bir yönde hareket, neden etrafına bakmak?

Bu Nedenle, Ilon başlattı Neuralink.

Başlattı Neuralink hızlandırmak için bizim ilerleme dönemi büyücü — dünya, ona göre, «her kim isterse tamamlamak için kendinizi AI, göze mümkün olacaktır, ve burada milyarlarca ayrı симбиотов AI-insanların ortaklaşa kararlar gelecek.» Dünya AI olacak insanlar, insanlar ve insanlar için.

* * *

Sanırım şimdi bazılarınız inanıyorum, deli dünya, yaşadığımız son 38 000 kelime, geleceğimiz olabilir, ama size bir kısmını reddediyor, buna inanmak. Ve burada ben size içtenlikle anlıyorum, kendisi ile aynı.

Ama deli bir parçası olmak zorunda değildir neden ona inanmak zor. Unutmayın: George Washington öldüğünde gördüm 2017 yıl. Ve bizim gelecek bizim için anlaşılmaz şok edici. Tek fark, şimdi ne zaman uçar, daha hızlı, daha zamanında George.

Bir Kavram gibi geçti gelecek diyor hakkında sihirli bizim kolektif akıl ve saflık bizim sezgi. Aklımızı evrim zaman ilerleme çok yavaş hareket ediyordu, bu yüzden bizim ekipman откалибровано altında. Ve eğer biz aktif olarak reddetmek, sezgi — bir kısmının bizi okuyan ve geleceği ile ilgili olarak bir şey hakkında диковинном ve inanmak istemiyor o, ne bu, belki de yaşayacağız cahil öleceğiz inkar.

Gerçekliktir ilerliyoruz yakın akışında çok yakın bir yer ve kimse bilmiyor, nasıl olacak, ne zaman gideceğiz. Birçok kişi korku düşünmeye severim. Çünkü doğduğumuz değil yaşamaya başladı normal bir dünyada, normal insanlar gibi yaşıyoruz bir korku filmi. Bazı insanlar alacak bu bilgi ve çalışacağız gitmek bir ayak ile Илоном, elimden geleni yapmak için bu film mutlu bir son oldu — ve zafer. Çünkü ben iyi olacağım, bir seyirci, bir bakıyor bu filmi patlamış mısır ve kola, ağrıyan iyi adam.

Herhangi Bir durumda, sanırım, bazen yararlı, zaman zaman tırmanmaya bir ağaç ve kendime hatırlatmak, ne zarif bir zamanda yaşıyoruz. Ve ağaçların etrafında o kadar çok. Buluşalım, bunlardan biri de yakında geliyor.