인 제프리 Hinton:의 아버지는 깊은"학습"

인공지능합니다. 얼마나 많은에 대해 말했다,그러나 우리는 그것을 말하지 않은 정말로 시작되었습니다. 거의 모든 것을 듣고에서 진행,인공 지능의 기초에 돌파구는 서른 년니다. 유지 진전이 필요 우회하는 심각한 제한 사항이 심각한 제한 사항이 있습니다. 또한,처음에는 사람—제임스 서머스입니다.

나는 거기 서 있고,무엇은 곧 세상의 중심,또는 큰 공간에 일곱 번째 바닥의 매끈한 타워 토론토 다운타운에는 쪽을 참조하십시오. 내가 함께 요르단 Jacobs,공동 설립자의 이 장소:Institute of 벡터,이 가는 문을 열고 할 것을 약속하는 글로벌 중심지로의 인공 지능합니다.

우리는 토론토에 있기 때문에,제프리 힌튼 토론토에 있습니다. 제프리 Hinton 아버지의 깊은 학습 기법,기본 과대 광고의 주제에 AI 니다. "30 년 동안에 우리는 다시는 제프—아인슈타인 AI,깊은 배우,다만 우리는 전화 artificial intelligence,"Jacobs 니다. 의 모든 AI 연구팀은 더 보기 더 자주 인용하는 보다 세 개의 그 뒤에,결합니다. 의 학생 및 졸업생 작업에서 인공지능 연구소에서는 애플,Facebook 및 OpenAI;샘 Hinton,주요 과학자가 구글에서는 두뇌 AI 니다. 거의 모든 성과의 분야에서 AI 지난 십 년 동안 번역,음성인식,영상 인식 및 게임—나의 작품 Hinton 니다.

연구소의 벡터,이 기념비의 상승의 아이디어 Hinton,연구 센터에는 회사에서 미국 및 캐나다 같은 구글,Uber,NVIDIA 후원의 노력을 기술사업화 AI 니다. 돈 흐름보다 더 빨리 제이콥스 관리에 대해 질문하는 그 두 가지의 공동 설립자 인터뷰를 회사에서 토론토에 대한 수요가 전문가의 분야에서 꾸었보다 10 배 더 높은 캐나다를 제공합니다. 연구소는 벡터의 의미에서 비 경작 virgin 토양을 시도하는 동원하 주변의 세상 깊은 학습에 투자하기 위해 이 기술에서 그녀를 가르치는 것을 연마하고 적용됩니다. 데이터 센터를 구축되고 있고,고층 빌딩으로 가득 벤처 기업에 가입,전체 학생의 생성합니다.

때 당신은에 서있는 바닥,"Vector"하나는 느낌을 당신은에서 시작 부분의 무언가이다. 그러나 깊은 학습,그 본질은,아주 오래된입니다. 획기적인 문서를 통해 Hinton,기록과 함께 다윗 Rumelhart 및 로널드 윌리엄스에서 출판 되었 1986. 작업에 대해 설명합에서 세부 메서드의 전파의 오류에(역전파 하 여),"backprop"라고 합니다. Backprop 에 따라,요한 코헨—그것은"모든 무엇을 기반으로 깊은 학습—모든"니다.

보이는 경우 루트에서의 오늘 AI 은 깊은 학습,그리고 깊은 학습 backprop 니다. 그리고 그것은 놀라운 것을 주어,backprop30 년 이상입니다. 을 이해하는 일이 어떻게,필요합으로 장을 기다릴 수 있는 다 폭발을 일으킬? 기 때문에 일단의 역사를 알아보십시오 backprop,당신은 무슨 일이 일어나고 있는지 이해하 AI,또한 우리는하지 않을 수 있습의 시작 부분에 혁명을 배경으로 하고 있다. 우리는 월의 끝에 자체입니다.

에서의 연구소에서 벡터 office Hinton 구글에서는 대부분의 시간을 보낸다(그가 지금 명예교수 대학에서의 토론토)은 종류의 생활에 대한 광고,도시 적어도 여름에 있습니다. 게 된 이유는 분명 Hinton,출신의 영국에서 여기로 이사에서 1980 년대 후 작업에 카네기는—멜론 피츠버그에서습니다.

어쩌면 우리는 혁명의 시작

토론토—네 번째로 큰 도시에서 북아메리카(멕시코 시티,뉴욕,로스앤젤레스)고 확실히 더 많은 다양한:보다 더 많은 인구의 절반 이외의 국가에서 태어났다. 이 볼 수있는 경우 도와드립니다. 군중들은 다국적 기업입니다. 가 무료로 건강 관리와 좋은 학교,사람들은 친절하고,정책에 대 왼쪽과 안정적이며 모든 이 사람들을 끈 다음과 같 Hinton,누가 말한 그는 미국을 떠났기 때문에"Irangate"(이란-콘트—중요한 정치적 사건에 미국에서 두 번째의 반지 1980 년대,그때 알려지게되었다는 것의 일부 회원들은 미국 관리 조직의 비밀 팔 발송물이란,그로 인하여를 위반하는 팔을 금지에 대해 해당 국가). 이기 시작한 우리의 대화를 하기 전에 저녁 식사합니다.

"많은 사람이 믿는 우리를 침공 니카라과"라고 말합니다. "그들은 어떻게든 믿는 니카라과 그리고 미국은"니다. 그는 최근에 달성하는 중요한 돌파구에서 프로젝트의:"내가 일하기 시작했으로 매우 좋은 주니어 엔지니어",라는 이름의 여성이 사라 Sabur 니다. Sabur 이란,그리고 그녀는 비자가 거부하는 미국에서 작동합니다. Google office 토론토에서 그것을 했습니다.

Hinton69 년니다. 그가 날카로운,얇은 영어 얼굴을 가진 얇은 입,큰 귀에,자랑스러운 코니다. 그가 태어나서 런던과 대화를 생각 나게한 해설자의 어린이 책에 대한 과학:호기심을 유혹하려고 설명합니다. 그의 재미와 작은 관람석합니다. 아파 앉아있기 때문에,그래서 그는 비행 할 수 없고,치과 낳는 장치에 닮은,명예 영사관도 있습니다.

1980 년대에,힌턴었으로,지금의 전문가가 신경망이 상당히 단순 네트워크는 모델의 뉴런 및 시냅스의 우리의 뇌입니다. 그러나 그 시간에,그것은 확실하게 결정하는 신경 네트워크는 죽은 끝에서 연습니다. 지만 첫 번째 신경망,"계층 퍼셉트론"1960 년대에서 개발되었 ies 고 그것으로 간주되었을 향한 첫 번째 단계는 기계의 지능에서 인간의 수준,1969 년에 마 민스키고 시모어 페퍼트를 수학적으로 증명되는 이러한 네트워크는서만 작업을 수행할 수 있습니다가장 간단한 기능입니다. 이러한 네트워크는 두 개의 층이 신경 세포를 입력층과 출력 층니다. 네트워크 수가 많은 층의 뉴런 사이에서 입력 및 출력에서,이론,해결의 다양한 문제이지만,아무도 알고 그들을 가르치는 방법,그래서 실제로 그들은 쓸모없다. 때문에"Perceptrons"아이디어에서의 신경 네트워크는 거의 거의 모든 몇 가지 예외를 제외하고,포함하여 Hinton 니다.

획기적인 Hinton1986 년을 보여주는 방법이 다시 오류가 발생한 전파할 수 있는 훈련이 깊은 신경 네트워크 레이어의 수보다 더 두 개 또는 세 개의합니다. 하지만 그것은 다른 26 년 전에 증가한 컴퓨팅 기능이다. 에서 문서의 2012 년 Hinton 와 두 명의 학생에서 토론토에는 다음과 같이 깊은 신경 네트워크는 훈련과 함께 사용하의 backprop,아끼지 최 시스템의 인식의 이점 유의하여 주시기 바랍니다. "깊은 학습"시작했다는 추진력을 얻을 수 있습니다. 세계는 갑자기 결정했다. 에 대한 Hinton,대망의 승리입니다.

드

신경 네트워크는 일반적으로 묘사했으로 샌드위치 레이어가 있는 중첩에서 각각 다른다. 이러한 계층을 포함하는 인공 신경은 기본적으로 표현하는 작은 컴퓨팅는 흥분으로 흥분해서 진정한 신경과 전송이 흥분하여 다른 뉴런으로 연결되어 있습니다. 여기의 신경을 표현된 숫자에 의해,말,또는 0.13 32.39 을 결정하는 정도의 자극 신경입니다. 고 있는 또 다른 중요한 수에서 각각 연결이 사이의 두 개의 신경 세포를 정의하는 방법은 많은 excitation 전송되는 다른 하나에서. 이 숫자는 모델의 힘 사이의 시냅스 뇌의 신경 세포니다. 높은 숫자,강한 연결을 의미가 더 흥분에서 흘러 다른 하나입니다.

중 가장 성공적인 응용 프로그램의 깊은 신경 네트워크은 패턴을 인식합니다. 오늘날 수 있는 프로그램이 있는지 여부를 인식하 사진의 뜨거운 강아지입니다. 십년 전에 그들은 불가능합니다. 작동하려면,먼저 사진을 찍을 수 있습니다. 단순화를 위해,그것을 말하의 흑백 이미지의 100x100 개의 픽셀이 있습니다. 당신이 그것을 먹을 신경 네트워크 설정,여기의 각 신경 시뮬레이션에서 입력 레이어도록 동일한 밝기 각 픽셀의합니다. 이것은 바닥 층의 샌드위치:10,000 신경(100x100)나타내는 각 픽셀의 밝기에 이미지합니다.

다음 큰 층의 신경 세포가 연결되어 있는 또 다른 큰 층의 신경 세포 이미상,말,몇 천개,그리고 그들은,차례차례로,한층 신경지만,,등등. 마지막으로,최고층의 샌드위치 층 출력으로 구성됩니다 두 개의 신경 세포 중 하나를 나타내는"핫"및 다른되지 않음"으로 뜨거운 강아지". 아이디어는 훈련을 신경망을 자극하는 첫 번째 이러한 신경 사진의 경우 핫도그,그리고 두 번째,없을 경우입니다. Backprop,의 방법이 다시 오류가 발생한 전파,힌턴 내장 된 자신의 경력을 하고 있는 것입니다.

Backprop 은 매우 간단하지만 최고의 작품으로 거대한 양의 데이터습니다. 그 이유는 빅 데이터 그렇게 중요한 아이 그들이 왜 그렇게 열심히 참여에 Facebook and Google 왜 벡터연구소를 설립하기로 결정했 연락처와 함께 네 개의 주요한 병원과 데이터를 교환한다.

이 경우에는 데이터의 형태를 취 백만 일부 이미지 핫도그,일;트릭을 표시하는 것입니다 이러한 이미지로 데 있습니다. 을 만들 때 신경 네트워크에 대한 첫 번째 시간 연결이 사이의 신경은 임의의 무게 임의의 숫자를 말을 얼마나 많은 여자를 통해 전달되는 각 연결합니다. 는 경우 시냅스 뇌하지 않은 아직 구성되어 있습니다. 의 목적 backprop 을 변경하는 이게 그래 네트워크 및 실행:이렇게 전달할 때 그림의 뜨거운 강아지 하단에는 계층,신경은"핫"최상위 레이어에 흥분한다.

가 당신의 첫 번째 교육의 그림이 있습니다. 를 변환하는 강도의 이미지 픽셀 100x100 10,000 번호,하나를 위해 각각 신경은 하위 계층의 네트워크입니다. 한 빨리 자극을 통해 배포되는 네트워크에 따라 연결 강도의 신경 세포에 인접한 레이어 점차적으로 도달 마지막층의 두 개의 신경 세포를 결정하는 사진의 뜨거운 강아지입니다. 기 때문에 그것은 그림으로 피아노,신경은"핫"필요하여 제과,신경은"핫"를 표시해야 하는 번호가 높다. 예를 들어,그것으로 작동하는 것이 아닙니다. 예를 들어,네트워크에 대한 잘못된 이미지입니다. Backprop 절차를 강화하는 강도의 각 연결 네트워크 허용,당신은 오류를 정정 예에서의 교육입니다.

그것은 어떻게 작동합니까? 당신은 시작과 함께 마지막 두 개의 신경 세포와 어떻게 그들이 잘못된:차이는 무엇인가 그들의 숫자는 여기고 그것이 무엇이어야,정말입니다. 다음은 보기 각 연결을 선도하고,이러한 신경—내림차순으로 더 낮은 층을 결정하고 그들의 공헌에 오류가 있습니다. 당신은 유지하고 이에 도달할 때까지 첫 번째 세트에 연결 하단의 네트워크에 있습니다. 이 시점에서,당신은 알고,어떤 기여 개인의 화합물에서 총 오류가 있습니다. 마지막으로,당신은 당신이 변화한 모든 무게를 줄이 기 위해 오류가 있습니다. 이라"방법을 다시 전파의 오류"사실에있는 당신이 좋아하게 보내는 오류를 통해 다시 네트워크에서 시작하여 반대쪽 끝에서 출력한다.

놀라운 일이 시작할 때 이렇게 수백만 또는 수십억의 이미지에서 네트워크가 정의,사진의 뜨거운 개 또는 않습니다. 와 더주목할만한 사실에는 개별 레이어를 이러한 네트워크,이미지 인식하기 시작 이미지를 참조하십시오 같은찬가지로 우리의 자신의 비주얼 시스템입니다. 는,첫 번째 층은 감지의 윤곽을 신경이 불면 윤곽은 흥분하지 않을 때 다 계층을 정의 세트의 가장자리,모서리,다음 층이 시작을 분별하는 모양은 다음과 같은 다 계층을 발견의 모든 종류의 같은 항목에"열리는 롤스"또는"롤 폐쇄"기 때문에 그것을 활성화하는 적절한 뉴런니다. 네트워크 구성되어 계층 형태도 되지 않고 프로그래밍입니다.

진실한 정보는 당황하지 않을 때 문제는 약간 다릅니다.

모든 것을 쳤습니다. 그것은 그리 많지 않다는 사실의 신경 네트워크는 잘 klassificeret 이미지와 함께 뜨거운 강아지들의 표현이 아니다. 텍스트,이는 더욱 분명하다. 당신이 먹을 수 있는 텍스트의 위키피디아,많은 수십억의 단,간단한 신경 네트워크를 가르치는 그녀를 부여하기 위해 모든 단어로 번호에 해당하는 excitation 각 신경에서 레이어입니다. 는 경우에 당신은 모두 상상 그 숫자는 좌표를 에서는 복잡한 공간이,당신은 당신을 찾는 시점에,잘 알려진 이 상황에서 벡터로,각각의 단어는 이 공간에서습니다. 당신은 기차 네트워크는 단어가 옆 페이지에서 위키피디아,어우러진 것 이와 유사한 좌표와 voila,뭔가 이상한 일이 일어나고:단어가 있는 비슷한 값을 표시 가까이에 이 공간입니다. "미친"및"좌절하는"가까운 것으로;세""과"일곱"너무합니다. 또한,벡터 연산할 수 있습을 빼는 벡터"프랑스에서"""파리,추가 그것을"이탈리아"찾기"로마에서"수 있습니다. 아무도 말했 신경 네트워크,로마 이탈리아—은 동일한으로 파리 프랑스에 대한니다.

","Hinton 니다. "그것의 충격적인"니다. 신경 네트워크로 볼 수있을 것—이미지,즉,레코드 대화,의학 기록을—그리고 그들을 넣어서,수학자가 말한다,벡터 다차원 공간에 있는 근접 또는 멀리 떨어져의 것들을 반영할 것이 가장 중요한 부분입니다. 힌턴 생각하는 것 두뇌는 않습니다. "당신이 무엇을 알고 싶은 생각이다,"그는 말하기를,"내가 그것을 줄 수 있고 당신의 시리즈는 단어입니다. 내가 말할 수 있습니다,"요한 생각,"죄송합니다." 그러나 요청하는 경우:아이디어는 무엇입니까? 을 위해 무엇을 의미 하는 요한을 이런 생각을 가지고있는가? 후에 그의 마음을 열지 없이 인용,"아차",닫는 따옴표를 일반적으로 가까이 하지 않습니다. 그의 머리에서 실행되는 종류의 신경 활동"니다. 좋은 사진을 신경 활동의 경우,당신은 수학을,그것을 가능하게 잡을 벡터 공간에서는 각 뉴런의 활동에 해당하는 것이 숫자,그리고 각각의 번호는 조정에 매우 큰 벡터다. 에 따라 Hinton,아이디어를—그것은 댄스 벡터의합니다.

이제 나는 이유를 이해하는 연구소의 벡터라고 그렇게까요?

Hinton 필드를 만듭의 왜곡의 현실을,당신은 처음에 주어진 감각의 신뢰와 열정,고무시키는 신뢰한다는 사실에 대한 벡터,아무것은 불가능합니다. 결국,그들은 이미 만들어 자기 자동차를 운전하는 암 컴퓨터,인스턴트는 번역가의 언어입니다.

경우에만,당신이 기억하는 이들 시스템의 깊은"학습"여전히 아름다우에도 불구하고,그들의 유용한 전력의 생각합니다. 컴퓨터 볼 수있는 많은 도넛 테이블에 자동으로 표시 그것은"무리의 도넛 테이블에 누워있는 것 같은"세상을 이해하는 때에는 같은 프로그램를 본 소녀는 브러쉬 그녀의 이빨고 그것을 말하는"소년 야구 방망",당신이 얼마나 어려운 이러한 이해,모든 경우.

신경 네트워크는 생각하고 막연한 인식자,이미지와는 방법이 유용할 수 있 이러한 이미지 인식—기 때문에 그들의 통합하기 위해 노력하고 모든 소프트웨어에—그들이에서 최고의를 나타내는 제한된 유형의 정보는 것은 쉽습니다. 깊은 신경 네트워크를 인식하는 이미지할 수 있습니다 완전히 혼란을 변경하는 경우 하나의 픽셀,또는 추가 visual 소음,눈에 보이지 않는 인간입니다. 거의 같은 종종 우리는 새로운 방법을 찾아 사용하는 심화 학습,종종 우리가 발생할 수 있습니다. 자동차 운전할 수 없는 운전 조건에서는 전에 보지 못했습니다. 기계할 수 없을 만들 제안서 요구하는 일반 상식과 이해의 세계가 어떻게 작동합니다.

깊은 학습은 어떤 의미에서 모방에서 무슨 일이 일어나는 인간의 뇌하지만,표면 설명할 수 있는 왜 자신의 정보이므로 표면 때로는니다. Backprop 되지 않았습하는 과정에서 찍기의 두뇌로 시도를 해독하는 아이디어,그것의 성장 모델의 동물을 학습하여 착오에서는 옛날 실험니다. 대부분의 중요한 단계되었습니다 설립 이후,을 포함하지 않았 새로운 것의 주제에 대한 생물학,그것은 기술적인 개선,잘된 일의 년,수학자 및 엔지니어 있습니다. 우리가 알고 있는 것에 대한 정보도 비교한 우리는 아직 모른다.

데이비드 Duvant,조교수의 부서,힌튼,토론토대학교,는 것을 말한 깊은 학습하는 것 같 공학개론 물리학습니다. "누군가가 쓴 작업 그는 말했다,"나는 이러리,그리고 그는 서!". 다른 씁니다:"나는 이리와 그것을 축소하지만,추가 지원이고 그것은 가치가 있습니다." 그들은 이동에 미친을 지원합니다. 누군가가치가 모든이들은:아이 멋지다! 물리할 수 있습니다 실제로 이해하기 위해 작업 및 이유입니다. 우리는 최근 시작을 가하여 적어도 몇 가지 이해를 인공 지능의"니다.

교수 Hinton 말한다:"대부분의 컨퍼런스에 대해 이야기의 소개로 작용하고 생각해"왜 우리가 지금 하는 일이 작동하지 않는 이유는 무엇입니까? 그 이유는 무엇입니까? 에 대해 자세히 알아보도록 하겠다."

외부에서 찾고 그것을 어렵게 만들 때 모든 당신이 볼 수은 승진을 위한 홍보합니다. 하지만 최신의 분야에서 진행 AI,낮은 정도였 과학 및 엔지니어링합니다. 비록 우리가 더 잘 이해하는 것입니다 어떤 변화 시스템을 개선의 깊은 배움,우리는 막연하게 상상하는 방법 이러한 시스템 작동하는지 여부와 그들이 이제까지 무언가를 만날로 강력한 인간의 마음입니다.

을 이해하는 것이 중요,우리가 할 수 있 추출물에서 당신이 할 수있는 모든 것 backprop 니다. 그렇다면,우리가 기대하는 고원에서의 발전 인공 지능합니다.

인내

하려면 다음을 참조하여 돌파,종류의 기준은 훨씬 더 유연한 정보,당신은 해야,이론,참조하여 연구와 유사의 연구 backprop 에서 80 년:스마트 사람들이기 때문에 그들의 아이디어는 아직 작동하지 않습니다.

몇 달 전,저는 많이 방문한 중앙에 대한 마음 두뇌와 컴퓨터,다목적 시설,보관 MIT,를 보는 방법을 내 친구는 에얄 Dechter 어 자신의 논문에 인지과학입니다. 성능 전에 그의 아내 이미지,자신의 강아지고 자신의 딸을 수잔은 그를 지원하고 싶다고 그에게 행운을 빕니다.

에얄 그의 연설을 시작과 함께 매혹적인 질문에:그것은 어떻게 수잔은 두 년 말하는 것을 배웠고,재생,이야기를 따라하니까? 인간의 뇌에서는 그를 수 있습니다 공부를 잘하니까? 배우 여부터 이제까지 배워서 빠르고 원활하게까요?

우리는 이해하는 새로운 현상의 관점에서,물건은 우리가 이미 이해합니다. 우리의 도메인 조각으로 연구한다. 티 센터 스위 수학자 및 프로그래머,그가 생각하는 작업에 대해—예를 들어,수플레—는 방법에 대해 복잡한 컴퓨터 프로그램입니다. 하지만 당신은 배우지 않을 수플레 암기하여 수백 개의 작은 것 같이 지시"회전 팔꿈치 30 도,싱크대,그때 당기 손가락,그리고..."니다. 을 하는 경우 모든 새로운 경우,교육을 것 견딜 수 없고 당신은 것 중지에서 개발합니다. 대신에,우리는 프로그램의 단계 최고 수준처럼"달걀 흰자위를 채찍질하는"자신을 구성 하위 프로그램 같은"휴식 계란 흰자를 분리 노른자에서"니다.

컴퓨터지 않고,따라서 바보같이 보입니다. 깊은 배우 인식 핫도그,당신이 그녀를 공급하는 40 만의 이미지 개습니다. 밴드 수잔 배의 뜨거운 강아지를 보여,그녀의 뜨거운 강아지입니다. 고 오래 전에 그것에 대해 이해하고 있는 언어가는 훨씬 더 깊이 인식의 발생기의 개별 단어를 함께합니다. 과는 달리에서 컴퓨터 그녀의 머리의 아이디어 세상이 어떻게 작동합니다. "그것은 나를 놀라게하는 사람들은 두려워하는 컴퓨터 자신의 작업"에얄니다. "컴퓨터를 대체할 수 있는 변호사,변호사가 되지 않기 때문에 무언가를 하고 있는 복잡합니다. 그러나 때문 변호사들이 듣고 말하는 사람들입니다. 이러한 의미에서 우리는 아주 멀리서 그것의 모든다."

이 지지 않는 경우에,당신은 약간 변경을 요구하는 솔루션입니다. 키 논문의 에얄었는 데모,원칙적으로,어떻게 컴퓨터 실행을 따라서 살아있는 적용되는 모든 것을 이미 알고 새로운 도전,신속하게 파악하에 비행하는 전문가가 완전히 새로운 지역이다.

사실,이 절차는 그는 알고리즘"연구 압축"니다. 그것은 컴퓨터 기능의 수집 프로그래머의 라이브러리를 재사용할 수 있는 모듈을 만들 수 있는 더 복잡한 프로그램입니다. 에 대해 아무것도 모르면서 새로운 도메인,컴퓨터를 하려고 구조 그에 대한 지식,단순히 공부하고 자신의 발견을 통합하고 다음을 공부하는 아이처럼니다.

자신의 고문,여호수아가 되어버린 문제를 안고,—하나의 가장 인용 연구에서 AI 니다. 는 이름의 살림에서 팝업의 절반을 대화를 했어와 다른 과학자들입니다. 주요 사람들에 DeepMind 팀 AlphaGo,누가의 전설적인 세계 챔피언 게임에서의 이동 2016 년에 그는 그 아래합니다. 에 시작하려고 시도하는 제공자동차,직관적 인 이해를 기본적인 물리학과 의도의 기타 드라이버를 잘 예측 발생하는 그에 상황에 직면하지 않았다.

논문의 에얄직에서 적용되어 연습에서도 프로그램을 도입되지 않았다. 에 문제"에얄,매우,매우 어렵다"라고 말세가 되어버린 문제를 안고 있다. "우리는 얻을 필요가 전달된 많은 세대입니다."

때 우리는 앉아서 한 잔의 커피를 마시고,살림을 말했을 탐구의 역사 backprop 에 대한 영감. 수십 년 동안,backprop 의 표현이었는 멋진 수학,대부분의 수도입니다. 로 컴퓨터가되었다 더 빨리,그리고 열심히 모든 것이 바뀌었습니다. 그 기대하는 비슷한 일이 일어날 자신의 작업과의 작품을 자신의 학생들,그러나"그것은 또 다른 걸릴 수 있습니다 몇십 년이다."

로 Hinton,그는 확신을 가지는 한계를 극복하기 위해서는 AI 의 생성과 관련된"다리를 사이에 컴퓨터 과학 및 생물학"니다. Backprop,이러한 관점에서,승리의 생물학에서 영감을 받은 컴퓨팅 아이디어는 원래왔지에서 공학이나심리학습니다. 그래서 지금 힌턴을 반복하려고 이다.

Today,신경 네트워크로 구성되어 큰 평면 레이어지만,인간의 텍,이러한 신경 세포 배치되어뿐만 아니라 가로이지만,또한 수직으로,열이 있습니다. Hinton 왜 우리에게 필요한 열에서 시각,예를 들어,그들이 허용하는 개체를 인식하는 경우에도 변경의 관점입니다. 그래서 그는 그를 만듭니다 인 버전하여"캡슐"이론을 테스트합니다. 아직 그것은 작동하지 않습니다.캡슐은 특히 향상된 성능의 그것의 네트워크입니다. 그러나 30 년 전 bactrobam 같습니다.

","그는 말에 대한 이론의 캡슐,웃음 자세입니다. "그리고 아직 작동하지 않습니다,이것은 단지 일시적인 두통입니다."

재료 Medium.com