Apareceu como uma rede neural?

Nos últimos 10 anos, através do método chamado de aprendizado profundo, temos os melhores sistemas de inteligência artificial — por exemplo, reconhecedores de voz em smartphones ou a última de um tradutor automático do Google. Uma profunda formação, de fato, tornou-se uma nova corrente já conhecidos de redes neurais, que entraram na moda e saiu por mais de 70 anos. Pela primeira vez, a rede neural ofereceram Warren Mccullough e Walter Pitts em 1994, dois pesquisadores da universidade de Chicago. Em 1952, eles passaram a trabalhar no instituto de tecnologia de Massachusetts, a fim de estabelecer as bases para a primeira cátedra de когнитологии.

As redes Neurais foram um dos principais focos da investigação como no da neurobiologia e informática até 1969, quando, se acreditar em lendas, eles acabaram de matemática do mit, Marvin Minsky e Seymour Паперт, que depois de um ano, tornam-se соруководителями novo laboratório de inteligência artificial do MIT.

O Renascimento este método sofreu na década de 1980, levemente deixou na sombra, na primeira década do novo século e com a fanfarra voltou no segundo, na crista de uma incrível desenvolvimento de chips gráficos e a sua transformação de energia.

"é a opinião de que as idéias na ciência é como as epidemias de vírus", diz Tommaso Poggio, o professor когнитологии e ciências do cérebro, no MIT. "Há, aparentemente, cinco ou seis principais cepas do vírus da gripe, e um deles está de volta com uma garantia de 25 anos. As pessoas infectadas, adquirem imunidade e não ficar doente próximos 25 anos. Em seguida, aparece uma nova geração, pronto para ser infectado é a mesma cepa do vírus. Em ciência, mesmo apaixonam-se por uma idéia, ela é de todos os que te deixa louco, então ela se entupir até a morte e adquirem imunidade a ela se cansa dela. As idéias deve ser semelhante a periodicidade".

Tangíveis perguntas

As redes Neurais são uma forma de aprendizado de máquina, quando o computador aprende a executar algumas tarefas, analisando exemplos de treino. Geralmente, esses exemplos manualmente são marcadas com antecedência. O sistema de reconhecimento de objetos, por exemplo, pode absorver milhares rotulados de imagens de carros, casas, copos de café e assim por diante, e, em seguida, será capaz de encontrar as imagens visuais nestas imagens, que sempre se correlacionam com marcas específicas.

Uma rede Neural é muitas vezes comparado com o cérebro humano, que também tem um tal de rede, composto por milhares ou milhões de simples de usinagem de nós, que está intimamente ligadas entre si. A maioria das modernas redes neurais são organizadas em camadas de nós, e estas passam através deles apenas em uma direção. Um site separado e pode ser associado com vários nós na camada abaixo dela, a partir do qual ele recebe os dados, e vários nós na camada acima, em que ele transmite os dados.

Cada um desses entrada de relações site atribui um número — "peso". Quando a rede está activa, o site recebe diferentes conjuntos de dados diferentes um número de cada um destes compostos, e multiplica o peso relevante. Em seguida, ele resume resultantes resultados, formando um único número. Se esse número está abaixo do limiar, o site não passa os dados para a camada seguinte. Se o mesmo número supera o limite, o site "ativado", o envio de número de soma ponderada de entrada de dados em todas as conexões de saída.

Quando a rede neural é treinada, todo o seu peso e os valores de limite estabelecida inicialmente em uma ordem aleatória. Dados do treino serve a camada inferior de — entrada — e passam ao longo de sucessivas camadas, умножаясь e суммируясь de maneira complexa, até que, finalmente, não chegassem, já convertidos, na camada de saída. Durante o treinamento com pesos e limiares constantemente adaptacao, enquanto dados do treino com as mesmas marcas não vão dar a semelhantes conclusões.

a Mente e a máquina

As redes Neurais, descritos Mccullough e Питтсом em 1944, tiveram os valores de limites e de peso, mas não foram organizadas em camadas, e os cientistas não fizeram qualquer um mecanismo específico de aprendizagem. Mas Mccullough e Pitts mostraram que a rede neural poderia, em princípio, calcular qualquer função, como a partir de qualquer computador digital. O resultado foi mais de um campo da neurobiologia, que a ciência da informação: era preciso supor que o cérebro humano pode ser visto como um dispositivo de computação.

As redes Neurais continuam a ser uma ferramenta valiosa para estudos neurobiológicos. Por exemplo, separar as camadas de rede ou as regras de ajuste de pesos e limiares reproduziram observadas características humanas нейроанатомии e das funções cognitivas, e, portanto, tocou de como o cérebro processa a informação.

O Primeiro treináveis a rede neural, "Перцептрон" (ou "Персептрон"), foi demonstrado um psicólogo da universidade de cornell Franco Розенблаттом em 1957. O projeto de "Перцептрона" foi semelhante à moderna, uma rede neural, exceto que ele tinha uma camada com um aro de pesos e limiares, firmado entre a entrada e saída de camadas.

"Перцептроны" está ativamente investigados em psicologia e informática até 1959, quando Minsky e Паперт publicaram um livro chamado "Перцептроны", que mostrou que uma obra bastante comuns de computação персептронах era impraticável do ponto de vista de tempo.

"é Claro, com todas as limitações como a desaparecerem, se fazer com que as máquinas um pouco mais complexo", por exemplo, em duas camadas", diz Poggio. Mas enquanto o livro teve um efeito dissuasor de pesquisa de redes neurais.

"Essas coisas que vale a pena considerar o contexto histórico",diz Poggio. "A prova estava para programação em linguagens como Lisp. Pouco antes disso, as pessoas calmamente usaram computadores analógicos. Não foi muito claro naquele momento, o que geralmente levará de programação. Acho que eles são ligeiramente demais, mas, como sempre, não é possível compartilhar todas em preto e branco. Se considerar isso como uma competição entre cálculo analógico e digital de calcular, então eles lutaram por aquilo que era preciso."

a Frequência

Na década de 1980, no entanto, os cientistas desenvolveram algoritmos para a modificação de pesos de redes neurais e os limites que foram suficientemente eficazes para redes com mais de uma camada, eliminando uma série de restrições, definidas Minsky e Папертом. Esta área tem experimentado a Renascença.

Mas com razoável do ponto de vista de redes neurais lhe faltava uma coisa. O suficiente para o exercício de longa duração poderia levar a uma revisão de definições de rede, até o momento em que ela vai começar a classificar os dados de uma maneira útil, mas que estas configurações significam? Quais as características da imagem olha o reconhecedor de objetos e como ele monta-los em partes, para formar um visual de assinaturas de máquinas, casas e xícaras de café? O estudo de pesos de conexões individuais não dará resposta a esta pergunta.

Nos últimos anos, os cientistas de computador começaram a inventar genial métodos para a determinação analítica estratégias adotadas нейронными redes. Mas na década de 1980, a estratégia das redes foram incompreensíveis. Então, na virada do século redes neurais foram expulsos vetoriais máquinas, uma abordagem alternativa para a maquinaria de aprendizagem, baseado na limpo e elegante matemática.

A Recente onda de interesse para a нейронным redes — a revolução de aprendizagem profunda — é a indústria de jogos de computador. Complexa a componente gráfica e rápido ritmo de jogos de vídeo modernas exige que o hardware que é capaz de manter-se a tendência, no resultado que apareceu a GPU (processador gráfico), com milhares de relativamente simples de núcleos de processamento em um único chip. Muito em breve, os cientistas perceberam que a arquitetura do processador gráfico, perfeito para redes neurais.

Os processadores gráficos permitiram construir uma rede de 1960 e de duas e três camadas de rede de 1980, buquês de 10, 15 e até mesmo 50-ply de rede de hoje. Eis o que é a palavra "mais" em "mais profundo da aprendizagem". A profundidade da rede. Agora uma profunda formação é responsável pela mais eficaz sistema em praticamente todas as áreas de pesquisa da inteligência artificial.

Sob o capuz

A Opacidade de rede ainda está preocupado com os teóricos, mas também neste campo há progresso. Poggio dirige o programa de pesquisa sobre o tema fundamentos teóricos da inteligência. Não muito tempo atrás, Poggio e seus colegas lançaram o estudo teórico de redes neurais em três partes.

A Primeira parte, que foi publicada no mês passado no International Journal of Automation and Computing, dirigida a um intervalo de cálculo, que podem passar de uma rede de aprendizagem profunda, e assim, quando profundas, as redes têm vantagens sobre неглубокими. A parte dois e três, que foram lançadas na forma de relatórios, dirigida a problemas de otimização global, ou seja, garantir que a rede irá encontrar a configuração que melhor se adequam aos seus dados de treinamento, bem como dos casos, quando uma rede é tão bom entender a especificidade da aprendizagem de seus dados, que não pode generalizar outras manifestações mesmas categorias.

Ainda uma série de questões teóricas, respostas de que terão de dar. Mas há esperança de que as redes neurais podem, finalmente, quebrar o ciclo de gerações, que mergulha-los a algo no calor, no frio.