Yapay zeka ve Geoffrey Hinton: baba «derin öğrenme»

Tarihli:

2018-07-13 12:35:20

Görünümler:

559

Verim:

1İstemek 0Sevmeme

Pay:

Yapay zeka ve Geoffrey Hinton: baba «derin öğrenme» Source:

Yapay zeka. Ne kadar onun hakkında dedi, ama biz bile konuşmak daha tam olarak başlamadı. Hemen hemen her şeyi duymak ilerleme, yapay zeka, esas atılım, hangi otuz yıl. Tasarruf oranlarında ilerleme gerektirir bypass ciddi kısıtlamalar ciddi bir kısıtlama. İleri ilk kişi James Somers.

Ben standı nerede yakında dünyanın merkezi, ya da sadece büyük bir odada yedinci katında, parlak kulesi'ne Toronto — hangi tarafı görmek için. Bana eşlik Jordan Jacobs, kurucu ortak yerler: Enstitüsü Vektör, bu sonbaharda kapılarını açıyor ve sözü olmak için küresel bir merkez üssü olan bir yapay zeka.

Toronto, çünkü Geoffrey Hinton, Toronto. Ve Geoffrey Hinton — baba «derin öğrenme» tekniği, altta yatan bir heyecan konulu II. «30 yıldır biz bekliyoruz önce ve diyelim, Jeff — Einstein için AI, derin öğrenme, sadece, diyoruz, yapay zeka,» diyor Jacobs. Tüm araştırmacılar AI Hinton alıntı daha sık, daha üç koşu arkasında birleştirdi. Onun öğrencileri ve lisansüstü gidiyor bir laboratuvarda çalışmaya AI Apple, Facebook ve OpenAİ; kendisi Hinton bir lider, bir bilim adamı takımda Google Brain Aİ. Hemen hemen herhangi bir başarı alanında AI son on yıl — çeviri, tanıma, konuşma tanıma, görüntü ve oyun öyle ya da böyle gelince iş Bulunur.

Enstitüsü, Vektör, bu anıt yükseliş fikirler Hinton, bir araştırma merkezi, hangi şirket tüm ABD ve Kanada gibi Google, Uber ve NVİDİA — sponsor çabaları, teknolojinin ticarileştirilmesi AI. Para infüzyon daha hızlı, daha Jacobs zaman bu konuda sormak; iki kurucu sorguya çekilmişti alan şirket, Toronto ve talep alanında uzman AI oldu 10 kat daha yüksektir sunar Kanada her yıl. Enstitüsü Vektör anlamda непаханая bakire toprakları için seferber girişimleri dünya etrafında derin öğrenme: yatırım bu tekniği öğretmek, ona, geliştirin ve uygulayın. Tarih-merkezleri inşa ediliyor, gökdelenler doldurulur стартапами, alana dökülen bütün bir nesil öğrenciler.

Zaman, durduğun yerde bir «Vektör», duygu alır, eğer başında bir şey. Ama derin bir eğitim, özünde, çok eski bir oyun. Yıkıcı bir makale Hinton tarafından yazılmış David ile birlikte Румельхартом ve Ronald Williams, yayınlandı, 1986 yılında. Çalışmalarında ayrıntılı olarak описывался yöntemi, geri yayılma hatası (backpropagation), «бэкпроп», kısaca. Бэкпроп göre, John Cohen, — bu «ne dayalı derin bir eğitim — genel».

Eğer izlemek kök, bugün AI — bu derin öğrenme, derin öğrenme бэкпроп. Ve bu çarpıcı, göz önüne alındığında, бэкпропу fazla 30 yıl. Anlamak nasıl oldu da, sadece gerekir: nasıl bir teknik olabilir bu kadar uzun süre beklemek ve sonra bir patlama neden? Çünkü öğrendiğinizde hikaye бэкпропа anlayacaksınız, şimdi ne oluyor, AI ile, yanı sıra, ve ne biz ve stand başında devrim. Belki de biz sonunda böyle.

Bir Yürüyüş Enstitüsü Vektör ofis Hinton Google, nerede o onun çoğu zaman harcıyor (o şimdi emekli profesör, Toronto Üniversitesi) — bu bir nevi canlı reklam için bir yer, en azından yaz aylarında. Olur, neden Hinton, aslen İngiltere, buraya taşındı 1980'lerin çalıştıktan sonra Üniversite Carnegie — Mellon Pittsburgh.

Belki biz başında devrim

Toronto dördüncü büyük kenti, Kuzey Amerika (sonra, Mexico city, New York ve Los Angeles) ve kesinlikle çeşitli: yarısından fazlası nüfusun yılında doğdu, Kanada dışında. Ve bu görüldüğü zaman gidiyorsun şehir. Kalabalık çok uluslu. Ücretsiz sağlık ve iyi bir okul, insanlar samimi, politika ile ilgili, sol ve istikrarlı; tüm bu insanlar çekiyor gibi Hinton diyor gitti ABD «Ирангейта» (İran-kontra için büyük bir siyasi skandal ABD'DE ikinci yarısından 1980'li yıllarda; o zaman farkında olmak, bireysel üyeleri, ABD yönetiminin organize gizli silah teslim, İran kırma, böylece оружейное ambargosu, bu ülkeye karşı). Bu başlar sohbetimiz yemekten önce.

«Çok inanıyordu ki, ABD bu işgal Nikaragua,» diyor. «Onlar nedense inanıyordu Nikaragua abd'ye ait». Diyor ki, son zamanlarda büyük bir atılım gerçekleştirdi proje: «benimle çalışmaya başladı, çok iyi bir genç mühendis», adlı bir kadın, Sara Sabur. Sabur iranlıyım ve ona vize reddedildi AMERİKA birleşik devletleri'nde çalışmak için. Ofisi Google, Toronto çıkardı.

Хинтону 69 yaşında. Onun keskin, ince ingilizce yüz ile ince bir ağız, büyük kulakları ve gururlu bir burun. O doğdu, Wimbledon ve konuşma benzer anlatıcı çocuk kitapları yanlısı bilim: meraklı, завлекающий çalışan her şeyi açıklamak. Bu komik ve biraz reklamı. Ona zarar oturup sorunları nedeniyle sırt, bu nedenle uçmak için değil, resepsiyonda bir diş hekimi düşüyor cihaz benzeyen bir sörf.

1980'lerde Hinton gibi oldu ve şimdi, uzman neural ağları, büyük ölçüde basitleştirilmiş bir ağ modeli nöron ve sinaps beynimizin. Ancak o zaman sıkıca karar verildi yapay sinir ağları — çıkmaz çalışmalarda II. Olsa da, ilk yapay sinir ağı «Перцептрон» geliştirildi 1960'larda ve onu kabul yönünde ilk adım makine insan zeka seviyesi, 1969 yılında Marvin Minsky ve Seymour Паперт matematiksel olarak kanıtlanmış, bu tür ağ yapabilir gibien basit seçenek. Bu ağ sadece iki katman nöron: katman giriş katmanı, bir çıktı. Ağ ile çok sayıda katman nöronlar arasındaki giriş ve çıkış olabilir, teorik olarak, çözmek için çok çeşitli sorun, ama kimse bilmiyordu, nasıl onları eğitmek, böylece uygulamada, onlar işe yaramaz. «Перцептронов» fikri sinir ağları terk hemen hemen hepsi, birkaç istisna dışında, dahil olmak üzere Bulunur.

Bir Atılım Hinton 1986 yılında oldu, göstermek için, bu yöntem geri yayılma hatası olabilir eğitmek için derin sinirsel ağ katman sayısı en fazla iki ya da üç. Ama aldı hala 26 yıl önce artmış hesaplama gücünü. Makalede 2012 Hinton ve iki öğrencinin Toronto göstermiştir ki, derin bir sinir ağı, eğitimli kullanımı ile бэкпропа, bypass en iyi tanıma sistemleri, görüntü. «Derin öğrenme» başlangıç ivme. Dünya bir gecede karar verdim, bu sabah AI devralmak. İçin Hinton oldu uzun zamandır beklenen bir zafer.

Golf bozulma gerçeklik

Bir Sinir ağı genellikle olarak tasvir sandviç katmanları olan üst üste birbirlerine. Bu katmanlar içeren yapay nöronlar, doğal olarak sunulan küçük bilgi işlem birimleri, heyecanlı — heyecanlı, gerçek bir nöron ve iletmek, bu heyecanı diğer nöronların, hangi ile bağlı. Uyarma nöron sunulan bir sayı, diyelim ki, ya 0.13 32.39, bir ölçüde belirler uyarma nöron. Ve başka önemli bir sayı, her biri arasındaki bağlantıları iki nöronlar, tanımlayan, ne kadar uyarma aktarılması gerektiğini, biri diğerine. Bu sayı, taklit gücü sinaps nöronlar arasındaki beyin. Daha yüksek bir sayı, daha güçlü bir bağ anlamına gelir, daha fazla uyarma akar, birinden diğerine.

En başarılı uygulamalar derin sinir ağları oldu ve görüntü tanıma. Bugün program yok, yetenekli tanımak, var mı resimde hot dog. Herhangi bir on yıl önce bunlar mümkün değildi. Onları çalıştırmak için almak için önce almak gerekir bir resim. Kolaylığı için, diyelim ki, bu siyah-beyaz görüntü 100 100 piksel. Eğer скармливаете onu sinir ağı kurarak uyarma her bir simüle nöron tanıtım katmanda yani, ne olacak, eşit parlaklık, piksel başına. Bu alt tabaka sandviç: 10 000 nöron (100 x 100) temsil eden, her pikselin parlaklığı olur.

Daha Sonra, bu büyük katman nöron bağladığınız başka bir çok katman nöron, zaten yukarıda, diyelim ki, birkaç bin, ve, sırayla, başka bir katmana birkaç bin nöron, ama zaten daha az ve benzeri. Son olarak, üst tabaka, sandviç katman ve bir çıktı oluşacak iki nöron — tek temsil eden bir «hot dog», ve başka bir — «hot-dog». Fikir eğitmek için sinir ağı, heyecanlandırmak, yalnızca ilk bu nöronlar, bir resim var, hot dog, ve ikinci bir yok. Бэкпроп, yöntem, geri yayılma hatası, hangi Hinton inşa kariyerine, tam da bunu yapar.

Бэкпроп son derece kolay olmasına rağmen, en büyük miktarda veri. Bu yüzden büyük veri için çok önemlidir AI — neden onları coşku ile meşgul Facebook Google ve neden Vector Institute karar bağlantı kurmak için dört büyük hastaneler, Kanada ve paylaşmak.

Bu durumda, verileri kabul formu milyon görüntü, bazı sosisli, bazı olmadan; hile, işaretlemek için bu resim nasıl sahip sosisli. Ne zaman oluşturduğunuz sinir ağı ilk olarak, nöronlar arasındaki bağlantıları var kilo rastgele – rastgele bir sayı söylemek ne kadar uyarma yoluyla bulaşır her bağlantı. Sanki sinapslarda beyin henüz yapılandırılmamış. Amaç бэкпропа — değiştirmek için bu kilo için ağ kazanmıştır: yani, geçtiğinde, görüntü sosisli en alt katman, nöron «hot dog» en üst katmanda heyecanlı.

Almak düşünürsek ilk öğrenme resmi bir piyano. Sen dönüştürmek yoğunluğu piksel resim 100 x 100 10 000 sayılar, her bir nöron, alt katman ağ. Olarak uyarma yayılıyor göre şebeke güç bağlantı nöronların komşu katmanlar, her şey yavaş yavaş geliyor son kat, iki nöron, tek, var, resimde de hot dog. Çünkü bu resim, piyano, nöron «hot dog» göstermek zorundadır sıfır ve nöron «hot dog» göstermek zorundadır sayısı daha yüksek. Diyelim ki, her şey çalışıyor. Örneğin, bir ağ yanlış tanımışım, resim. Бэкпроп bu yordam, gücünü güçlendirmek için, her bağlantı için bir ağ sağlayan bir hatayı düzeltmek için bir örnekte öğrenme.

Nasıl çalışır? İle başlar, son iki nöron ve anlamaya, onlar ne kadar yanlış: arasındaki fark nedir bunların sayıları uyarma ve ne olmalıdır aslında. Sonra bir bakıyorsunuz, her bağlantı, bir lider bu nöronlar — aşağı, aşağıda, katmanlara ve tanımlamak katkıları hata. Eğer bunu yapmaya devam ulaşana kadar ilk seti bağlantı dibinde ağlar. Bu noktada nedir biliyor musunuz katkısı ayrı bir bağlantı içinde genel bir hata. Son olarak, değişiyor her kilo için genel oran daha düşük bir hata. Bu sözde «yöntemi, geri yayılma hatası» olduğunu sen ... прогоняете hataları önce ağ başlayarak, arka uç, çıkış.

İnanılmaz bir olmaya başlar, bunu yaparken milyonlarca veya milyarlarca görüntü: ağ başlar iyi tanımlamak, tasvir resimde hot dog ya da değil. Ve daha dadikkat çekicidir, bu yüzden ayrı katmanlar bu ağların görüntü tanıma başlar görüntüleri «görmek» aynı gibi yapar bizim özel görsel bir sistem. Yani ilk katman algılar kontür — nöronlar heyecanlı, zaman döngüleri var, ve heyecanlı değil, zaman yok; bir sonraki katmanı tanımlar setleri kontür, örneğin, köşeler; bir sonraki katman başlar şekilleri ayırt etmek; bir sonraki katman içinde her türlü öğeleri gibi «açık börek» ya da «kapalı börek», çünkü aktive ilgili nöronlar. Ağ düzenlenir ve hiyerarşik katmanlar, hatta yok olmak, programlanmış bir şekilde.

Gerçek bir zeka sorunlu, ne zaman bir sorun biraz değişiyor.

İşte tüm vurdu. Mesele, ne sinir ağları iyi sınıflandırmak resim ile sosisli: inşa ediyorlar temsilleri fikirler. Metin ile bu daha da açıktır. Mümkün ... ... metin Wikipedia, birçok milyar bir kelime, basit bir sinir ağı, öğreterek, onu bağışlamak için her kelime, sayılar, ilgili возбуждениям her bir nöron tabakası. Eğer hayal tüm bu sayılar koordinatlar karmaşık bir alanda buluyorsunuz noktası olarak bilinen bu bağlamda vektör olarak, her kelime için, bu alanda. Sonra bir tren ağı böylece kelimeler, görünen yakınında sayfalarında Wikipedia, наделяться benzer koordinatları ve işte, çok garip bir şey oldu: bir kelime olan benzer bir değer gösterecektir yanında bu alanda. «Deli» ve «sinirli» olacak yanında; «üç» ve «yedi» de. Dahası, vektör aritmetik sağlar çıkarmak vektör «Fransa» , «Paris», eklemek «İtalya» ve «Roma» yakınında. Kimse нейросети, Roma için İtalya — bu aynı, ne Paris, Fransa için.

«Bu inanılmaz,» diyor Hinton. «Bu şok edici». Bir sinir ağı olarak görülebilir deneyin bir şeyler almak — resim, kelimeler, çağrı kayıt, tıbbi veriler ve koyun gibi matematik konuşuyoruz, çok boyutlu vektör uzayı, hangi yakınlık veya uzaklık şeyler yansıtmak önemli yönleri bu dünya. Hinton inanıyor, bu beyin yapar. «Öğrenmek istiyorsanız, böyle bir düşünce, — diyor, — ben size göndermek bir dizi kelime. Ben söyleyebilirim: «John düşündüm: «ayyy». Ama sorarsanız: nedir düşünce? Ne demek, John var bu düşünce? Çünkü onun kafasında yok açılış tırnak işaretleri, «acaba», kapatma tırnak işaretleri, genel olarak bu tür bir alakası yok. Onun kafasında sızıntı belli bir sinirsel etkinlik». Büyük resim nöral aktivitenin, eğer bir matematikçi, yakalamak vektör alanı, nerede bir etkinlik, her bir nöron maç olacak sayıda, her sayı — koordinatlar çok büyük bir vektör. Göre, Hinton, düşünce — bu dans vektörleri.

Neden Şimdi açıktır Enstitüsü Vektör denir mi?

Hinton oluşturur bazı golf bozulma gerçeklik size aktarılan güven duygusu ve coşku, вселяющие iman için ne vektörler hiçbir şey imkansız değildir. Sonuçta, onlar zaten kendi kendini yöneten oluşturduk otomobil ortaya çıkarmak kanseri bilgisayarlar, anlık çevirmenler konuşulan bir dil.

Ve sadece ayrılırken odayı hatırlıyor musun, bu sistemin «derin öğrenme» hala oldukça aptal olmasına rağmen, onların демонстративную düşünce gücünü. Bilgisayar bir görüyor bir sürü börekler masanın üzerinde ve otomatik olarak imzalar gibi «bir demet börekler, masada duran», görünüyor anlayış bir dünya; ama ne zaman aynı program görür bir kız dişlerini fırçalıyor, ve diyor ki «bir çocuk bir beyzbol sopası», siz de anlarsınız ne kadar zor olduğunu anlamak, eğer varsa.

Sinir ağları — sadece бездумные ve belirsiz tanıyıcıları görüntüler, ve ne kadar yararlı olabilir bu tür tanıyıcıları görüntüleri — sonuçta, onları aramak entegre herhangi bir yazılım — onlar en iyi durumda temsil, sınırlı cins zeka, hangi kandırmak kolay. Derin bir nöral ağ, bir tanıdığı bir resim, belki tamamen сконфужена değiştirirseniz bir piksel ya da eklerseniz görsel gürültü, sağduyulu bir insan için. Hemen hemen aynı gibi, sık sık biz bulmak için yeni yollar uygulamak, derin öğrenme, sık sık karşılaştığımız bir ile sınırlı. Kendi kendini yöneten arabalar gidemiyor altında olan görmedim daha önce. Makine değil sökmeye gerektiren teklifler sağduyu ve anlayış, nasıl bir dünya.

Derin bir eğitim, bir anlamda taklit eder oluyor insan beyninde, ama yüzeysel, muhtemelen neden açıklar zeka çıkıyor bu yüzeysel bazen. Бэкпроп tespit edilmemiştir dalış sırasında beyin girişimleri deşifre kendisi bir düşünce; o büyüdü modelleri hayvan öğrenme yöntemi deneme yanılma eski moda deneylerde. Ve en önemli adımlar, yapılan görünümünü beri, dahil değil yeni bir şey, bir konu nörobiyoloji; bu teknik gelişmeler, onur, yıllar içinde çalışma matematikçiler ve mühendisler. Bir şey hakkında bildiğimiz zeka ile karşılaştırıldığında hiçbir şey bir arada, ne biz bu konuda henüz bilmiyoruz.

David Дювенод, asistan profesör aynı şube, Hinton, Toronto Üniversitesi, diyor derin bir eğitim gibi mühendislik girişten önce bir fizik. «Birisi yazıyor iş ve diyor ki: «Ben yapılan bu köprü, ve o buna değer!». Başka bir yazar: «Ben bu köprü, çöktü, ama ben ekledim dayanak ve o buna değer». Ve tüm deli ve destekler. Birisi ekler kemer — ve tümtür: kemerler bu serin! Fizik ile aynı aslında ne olduğunu anlamak için çalışır ve neden. Biz sadece son zamanlarda başladı geçmeden hiç bir temsil, hiç bir anlayış, yapay zeka».

Kendisi Hinton diyor: «çoğu konferans hakkında konuşmak için giriş küçük değişiklikler yerine, düşün ve merak var soru: «Neden o zaman, şimdi ne yapıyoruz, olmuyor mu? Ne ile ilgilidir? Odaklanalım».

Taraftan Bakmak zor yapmak için zaman gördüğünüz her şey — bu promosyon için teşvik. Ama yeni gelişmeler AI daha az bir ölçüde bilimsel oldu ve büyük bir mühendislik. Her ne kadar biz daha iyi anlamak için, ne gibi değişiklikler artıracak sistem derin öğrenme, henüz belli belirsiz tanıtımı, bu sistemlerin çalışma ve onlar hiç bir araya gelip bir şey aynı derecede güçlü, insan zihin.

Anlamak için Önemlidir, mümkün olup olmadığını biz ayıklamak mümkün olduğunu, бэкпропа. Eğer evet ise, o zaman bizi bekleyen bir plato gelişimi yapay zeka.

Sabır

Görmek istiyorsanız, aşağıdaki bir atılım, böyle bir şey için temel bir makine ile çok daha esnek bir zeka gerekir, fikir, itiraz araştırmaya benzer bir araştırma бэкпропа 80'li yıllarda: ne zaman akıllı insanlar pes etti, çünkü kendi fikirleri kadar çalıştı.

Bir Kaç ay önce gittim Center for Minds, Brains and Machines, многоцелевом kurum, расквартированном MIT görmek için arkadaşım Эял Дехтер korur tez ve bilişsel bilim. Başlamadan önce bir konuşma karısı Amy, köpek, Ruby ve kızı Suzanne destekledi ve iyi şanslar diledi.

Эял başladı performansı ile heyecan verici bir soru: nasıl oldu da Suzanne, hangi sadece iki yıl, öğrendim, konuşmak, oynamak, izlemek hikayeler? Beyin, insan böyle bir şey için izin iyi öğrenmek? Öğrenir mi bilgisayar hiç öğrenme o kadar hızlı ve sorunsuz bir şekilde?

Biz anlıyoruz yeni fenomeni açısından bir şey, biz zaten anlıyoruz. Biz разбиваем etki alanı adı parçaları ve çalışma parça. Эял — matematikçi ve programcı sanıyor görevleri hakkında — örneğin, yapmak sufle — nasıl karmaşık bilgisayar programları. Ama sonuçta yapmak öğrenin sufle, заучивая yüzlerce küçük program talimatları «gibi çevirin dirsek 30 derece, sonra bak bir tezgah, sonra parmağınızı çekin, sonra...». Olsaydı bunu her yeni durumda, bir eğitim oldu ... dayanılmaz, ve sen-cekti durdu bir gelişme. Bunun yerine gördüğümüz program adımları üst düzey «gibi bir kırbaç sincap», kendilerini oluşur субпрограмм gibi «yumurta kırın» ve «ayırın sincap sarısı».

Bilgisayarlar yok ve bu yüzden aptal görünüyor. İçin sistem derin öğrenme tanıması hot dog zorunda kelleni ona 40 milyon görüntü sosisli. Чтоюы Suzanne öğrendim hot dog, sadece ona göstermek hot dog. Ve bundan önce var görünür, dil, anlama, gider çok daha derin tanıma çıkması tek kelime birlikte. Bilgisayarın aksine, onun kafasında nasıl bir fikir çalışan bir dünya. «Beni şaşırtıyor, insanlar korkuyor, ne bilgisayarlar, uzak, onlara bir iş,» diyor Эял. «Bilgisayarları değiştirmek mümkün avukatlar değil, çünkü avukatlar bir şey yapmak zor. Çünkü avukatlar dinlemek ve söylemek insanlar. Bu anlamda biz çok uzak bu».

Gerçek bir akıl değil смутится, eğer biraz değiştirin gereksinimleri sorunu çözmek için. Ve önemli bir tez Эяла bir gösteri oldu bu, prensip olarak, bilgisayarı zorlamak bu şekilde çalışmak için: canlı bir şekilde uygulamak için her şeyi o zaten biliyor, çözmek için yeni görev, çabuk kavramak, anında olmaya bir uzman tamamen yeni bir alan.

Aslında, bu prosedür diyor algoritması «araştırma-sıkıştırma». Verir bilgisayara fonksiyonu programcı toplayan bir kütüphane yeniden kullanılabilir modüler bileşenleri için izin oluşturmak için daha karmaşık bir program. Hakkında hiçbir şey bilmeden yeni bir etki alanı, bilgisayarı çalışır yapısı hakkında bilgi o, sadece okuyan, tespit eder ve ileri eğitim, çocuk gibi.

Onun danışmanı, Joshua Tenenbaum, — biri atıf araştırmacılar II. Adı Тененбаума tabi sen bizimle kiliseye gelmiyordun yarısında konuşmaları vardı diğer bilim adamları ile. Bazı önemli kişiler, DeepMind — geliştirme ekibi AlphaGo, efsanevi обыгравшего dünya şampiyonu bir oyun. 2016 yılında çalıştı onun için çalışıyorsunuz. O dahil bir başlangıç vermek için çalışır самоуправляемым araçlara sezgisel anlayış temelleri fizik ve niyetleri diğer sürücüler için bu daha iyi предвосхищали gidişat durumlarda, hangi ile karşılaşmadım daha önce.

Tez Эяла kadar uygulanmış, uygulamada, hatta bir program uygulandı. «Sorun, üzerinde çalıştığı Эял, çok, çok zor» diyor Tenenbaum. «Geçmiş nesiller».

Biz oturduk birer fincan kahve, Tenenbaum söyledi geçmişi araştırıyor бэкпропа uğruna ilham. Yıllardır бэкпроп tezahürü oldu serin matematik, çoğunlukla hiçbir şey yeteneğine sahip. Olarak bilgisayar okudukça daha hızlı, daha teknik, daha zor, herşey değişti. O umut böyle bir şey olursa, kendi çalışmaları ve eserleri talebeleri, ama «sürebilir, daha bir kaç yıl».

Gelince, Hinton, o ikna üstesinden kısıtlamalar AI kurulması nedeniyle «arasında bir köprü информатикой ve biyoloji». Бэкпроп, bu bakış açısından, oldu, zaferle biyolojik esinlenerek hesaplama; fikir, başlangıçta geliyormuş değil, bir mühendislik vepsikoloji. Bu nedenle şimdi Hinton tekrar çalışıyor, bu bir hile.

Bugün bir sinir ağı oluşur büyük düz katmanları, ama неокортексе insan gerçek nöronlar sıraya sadece yatay ama dikey sütunlar. Hinton bilmiyor, ne için gerekli bu sütunları görme, örneğin, onlar nesneleri tanıması bile değiştirirken bakış açısı. Bu nedenle, oluşturduğu yapay bir sürümünü ve onları çağırır «kapsül» için bu teori test. Henüz bir şey çıkmıyor: kapsül özellikle geliştirilmiş verimlilik ağlar. Ama 30 yıl önce бэкпропом aynı şey oldu.

«Bu işe yarayabilir,» diyor teorisi hakkında kapsül, gülüyor kendi kabadayılık. «Ve ne kadar çalışır, bu sadece geçici bir sıkıntı».

malzemeler Medium.com

Daha:

Venüs'te mikroplar tarafından üretilen gaz vardır. Bilim adamları uzaylıları buldular mı?

Venüs'te mikroplar tarafından üretilen gaz vardır. Bilim adamları uzaylıları buldular mı?

Venüs'te yaşam olabileceği varsayımı vardı. Bilim adamları yıllardır Mars'ta yaşam arıyorlar. Ama kim bilir, belki de oraya bakmıyorlar? 2017 yılında ABD ve İngiltere'den araştırmacılar, Güneş'ten en büyük ikinci gezegen olan Venüs'te yaşam belirtile...

12.000 yıllık dünyanın ilk gözlemevi nin neye benzediği

12.000 yıllık dünyanın ilk gözlemevi nin neye benzediği

Dünyanın en eski tapınağının başka bir amacı olabilir. Türkiye'nin güneyindeki bir grup avcı-toplayıcı dünyanın ilk tapınağı olarak bilinen bir yapının inşası ile başlayan dünya büyük buzullarla kaplıydı. Göbekli Tepeadı verilen alan yaklaşık 12.000 ...

En aktif insanlar hangi ülkelerde yaşıyor?

En aktif insanlar hangi ülkelerde yaşıyor?

İnsanlar hangi ülkelerde daha çok spor yapıyor ve yürüyor? Hadi öğrenelim. Fiziksel aktivite, doğru beslenme ile birlikte, sağlıklı bir yaşam tarzının ana faktörlerden biri olarak kabul edilir. Çok sayıda bilimsel çalışmalar düzenli egzersiz ve yürüy...

Yorumlar (0)

Bu makalede Yorum yok, ilk olmak!

Yorum ekle

İlgili Haberler

Çinli robotlar-araştırmacılar, sinek, Ay yerine insan

Çinli robotlar-araştırmacılar, sinek, Ay yerine insan

Tüm çalışma yapılan bir araştırmaya göre, Ay yapılacak otomatik modda, — China Daily atıfta bulunarak, sağlanan bir üst düzey yetkili, ÇİN bilgi. Program araştırma Ay, aralarında karaya луноходов ve araştırma çalışmaları mev...

DARPA yatırım 100 milyon dolar geliştirme, genetik silah

DARPA yatırım 100 milyon dolar geliştirme, genetik silah

bilgilendirir baskı the Guardian, seyir Kontrolü araştırma projeleri ABD (DARPA) başladı, silah geliştirme dayalı genetik mühendisliği. Üzerinde çalışmak için bir proje ofisi tahsis ettiği 100 milyon ABD doları. Yeni bir silah ola...

Bakteri kazandırmak için mümkün нанороботов

Bakteri kazandırmak için mümkün нанороботов

Nanobotlar olabilir çok kullanışlı, en farklı şey: onların yardımı ile olabilirdi işlemleri yapmak, keşfetmek, daha önce ulaşılmaz yerleri, teşhis, vücut ve teslim ilaçlar, insan vücudunun belirli yerleri… Ama ne mümkün mikr...

Bilim adamları eklenen iki yeni harfleri genetik kod

Bilim adamları eklenen iki yeni harfleri genetik kod

bilindiği Gibi, için kod büyük miktarda bilgi, genetik kod, kullanılan sadece 4 nükleik asitler: adenin, guanin, timin ve sitozin. Genetik kod bunlar belirtilir ve ilgili yazı — A, G, T ve C. Bu nedenle, söyleyebiliriz, «gen...

Hastalık belirleyecek, sadece просканировав retina

Hastalık belirleyecek, sadece просканировав retina

Periyodik tanı ve önleyici kontrolleri ortaya çıkarmak için yardım bir sürü hastalık erken aşamada, ama bazı durum teşhis edilebilir sadece zaman hastalık zaten yeterince uzadı. Ayrıca, birçok žizneugrožauŝie patoloji tespit edile...

Kurulan ilk полусинтетическая bakteri ile sahte DNA

Kurulan ilk полусинтетическая bakteri ile sahte DNA

Tüm biyolojik yaşam gezegeni dayalı dört nükleik (azotlu) gerekçesiyle DNA: A, T, C ve G (adenin, sitozin, timin ve guanin). Ama ne olacak, eğer bir kişi oluşturmak için yönetmek, yeni bir yapay nükleik bazlar ve вшить onları vücu...

Gökbilimciler 72 yeni galaxy

Gökbilimciler 72 yeni galaxy

kullanımı Sayesinde, yeni bir bilimsel araç MUSE (Multi Unit Spectroscopic Explorer) yüklü olan Çok büyük teleskop (VLT), Avrupa güney gözlemevi, Şili, astronomlar tespit başardık 72 yeni bir galaksi. Açılış parçası haline en deri...

Toprak solucanlar yaşamak mümkün ve yüksek hızda çoğalır olabilecek bir madde ile aynıdır toprakta

Toprak solucanlar yaşamak mümkün ve yüksek hızda çoğalır olabilecek bir madde ile aynıdır toprakta

Çok ilginç bir deney gerçekleştirdi, personel, içinde, Hollanda. Onlar talep var amerikan uzay ajansı NASA kopya воссозданную göre elde edilen verilerin sırasında birkaç mars misyonları, ve daha sonra hastaneye yatırıldı, bu topra...

Gökbilimciler экзопланету ile yörünge dönemi 27 000 yıl

Gökbilimciler экзопланету ile yörünge dönemi 27 000 yıl

Her gezegen bizim Güneş sistemine sahiptir ve önemli ölçüde farklı diğer yörünge dönemi Güneş çevresinde dönme. Örneğin, Toprak bir dönüş etrafında yıldız alır 365,25 gün, aynı Mars'ın bu bölgesinin neredeyse iki kat daha fazla za...

Yapay zeka, hareket, evren, moleküllerin girebilirsiniz müthiş ilaç

Yapay zeka, hareket, evren, moleküllerin girebilirsiniz müthiş ilaç

Karanlık bir gece, uzakta şehir ışıkları, yıldızlar, Samanyolu görünüyor sayısız. Ama herhangi bir yerden невооруженному gözle görülebilir en fazla 4500 yıldız. Bizim aynı galakside kendi 100-400 milyar, Evrende galaksilerin ve ek...

Bilim adamları, farklı türde alkol etkiler duygular

Bilim adamları, farklı türde alkol etkiler duygular

bu bir sır değil, alkol ile doğrudan bağlantılı olan duygusal durum insan. Birileri o pürüzsüz bir ruh hali, ve birisi, karşısında, geriyor. Birisi alkol özgürleştirici olduğu için, ama birisi daha agresif ve задиристым. İngiliz b...

Nasıl artırmak için beyin yeteneği?

Nasıl artırmak için beyin yeteneği?

Bilindiği gibi, yaşlandıkça tüm rezervleri vücudumuzun tükenmiş, organ ve doku başlar yavaş yavaş утрачивать kendi özelliği. Göre çok sayıda araştırma, 40 yaşından sonra insan beyin hacmi azalır ortalama %5, sonraki her 10 yıl yaş...

Olabilir mi madde terk etmek bir ufuk birleşme sırasında kara delikler?

Olabilir mi madde terk etmek bir ufuk birleşme sırasında kara delikler?

bir kez alınacak bir kara deliğin olay ufku, zaten onu asla terk. Yok hız ebil çevirmek, hatta ışık hızı için izin çıkış. Ama genel görelilik uzay katlanırsa varlığında kütle ve enerji ve birleştirme kara delikler en aşırı senaryo...

Ben amish bulundu mutasyon, побеждающие diyabet ve hatta yaşlanma

Ben amish bulundu mutasyon, побеждающие diyabet ve hatta yaşlanma

amishler kesinlikle, olarak da bilinen аманиты, — bu bir dini cemaat, yaşayan birkaç devletleri AMERİKA birleşik devletleri ve Kanada. Amishler kesinlikle sadelik, yaşam, giyim, isteksizlik alarak büyük bir bölümünü modern t...

İlk Çernobil NÜKLEER santralinde patlama oldu, nükleer, bilim adamları söylüyor

İlk Çernobil NÜKLEER santralinde patlama oldu, nükleer, bilim adamları söylüyor

Olay, Çernobil, olay 26 nisan 1986'da biri haline gelmiştir en korkunç insanlık tarihinin. Daha önce düşünüldü, ne bir patlama, dördüncü cadde ünite oluştu çünkü deney sırasında kontrolsüz ısıtma yırtık boru soğutma sistemi ve sıc...

Yeni Zelanda teklif ile mücadele, hayvan zararlıları ile CRİSPR

Yeni Zelanda teklif ile mücadele, hayvan zararlıları ile CRİSPR

Teknoloji, gen düzenleme CRİSPR içinde bir milyondan fazla çeşitli uygulamalar. Yeni Zelanda, örneğin, karar onun yardımıyla kurtulmak kemirgen ve diğer zararlıları. Fare, поссумы, sıçan ve diğer kemirgenler neden Yeni Zelanda büy...

Çin'de inşa etmek isteyen uzay mekiği atom motor

Çin'de inşa etmek isteyen uzay mekiği atom motor

yeni yayınlanan bir rapor, Çin için aşağıdaki uzay ve havacılık bilim ve teknoloji (CASC), inisiyeler, uzay programı Çin kavrami, birçok iddialı görevleri Microsoft, koyar önüne, önümüzdeki 20 yıl. Bazıları hakkında Engadget. ilk...

Tahmin olarak gidecek evrimi, insanlar, imkansız

Tahmin olarak gidecek evrimi, insanlar, imkansız

hepimizin bildiği gibi görünüyordu neandertaller: konuşmacılar надбровные ark, kalın bir burun, uzun bir kafatası, güçlü bir kemik yapısı ve muhtemelen bir kızıl saçlı ve веснушчатая deri. Belki göz ucuyla посматриваете üzerine kı...

Bilim adamları açıldı bir daha umut verici bir земплеподобную gezegeni

Bilim adamları açıldı bir daha umut verici bir земплеподобную gezegeni

Sadece 11 ışık yılı uzaklıkta Güneş sistemi gökbilimciler yeni bir землеподобную bir gezegenin iklimi, muhtemelen yaşam için uygun olabilir. Belirtmek gerekir ki, sonra Проксимы b bu en yakın ikinci bize экзопланета olan benzer bi...

13 bilimsel olarak teyit işaretler daha zeki görünüyor

13 bilimsel olarak teyit işaretler daha zeki görünüyor

Herkes gelebilir mütevazı. «Kim akıllı? Ben? Hayır, ben sadece şanslı...» bu Nedeni, herhalde, ilk etapta ne ile çoğumuz olmak istemem tabi inceleme veya birinin önyargı. Tabii ki, var olanlar da sadece önemli değil başkalarının g...