La aparición de las redes neuronales?

En los últimos 10 años, gracias al llamado de aprendizaje profundo, tenemos los mejores sistemas de inteligencia artificial — por ejemplo, los reconocedores de voz en los teléfonos inteligentes o la reserva de un traductor automático de Google. Una profunda formación, de hecho, se convirtió en un nuevo el paso de los ya conocidos de las redes neuronales, que entraban en la moda y el precio a lo largo de más de 70 años. La primera vez que las redes neuronales propusieron warren Маккалоу y walter pitts en 1994, dos investigadores de la universidad de chicago. En 1952, pasaron a trabajar en el instituto tecnológico de massachusetts, para sentar las bases de la primera cátedra de когнитологии.

Las redes Neuronales han sido uno de los principales ejes de la investigación en neurociencia y ciencias de la computación hasta 1969, cuando, según la leyenda, sus rematado de matemáticas del instituto tecnológico de massachusetts marvin minsky y seymour Паперт, que después de un año de acero соруководителями de un nuevo laboratorio de inteligencia artificial del MIT.

El Renacimiento de este método ha experimentado en la década de 1980, poco se ha ido en la sombra, en la primera década del nuevo siglo y con фанфарами regresó en la segunda, en la cresta de la increíble desarrollo de chips de gráficos y manufacturera de potencia.

"Existe la creencia de que las ideas en la ciencia es como la epidemia de virus", dice tomaso poggio, profesor de когнитологии y las ciencias del cerebro en el MIT. "Hay, probablemente, una de las cinco o seis de las principales cepas de virus de la gripe, y uno de ellos vuelve con la periodicidad envidiable en 25 años. Las personas se infectan adquieren inmunidad y no se enferman los siguientes 25 años. A continuación, aparece una nueva generación, listo para contraer la misma cepa del virus. En la ciencia misma, la gente se enamora de la idea, a todos volviendo loco, y luego a su clavan hasta la muerte y adquieren inmunidad a ella — se cansan de ella. El de las ideas debe ser similar a la frecuencia".

Importantes preguntas

Las redes Neuronales son una forma de aprendizaje automático, cuando el equipo aprende a realizar algunas tareas, analizando ejemplos de entrenamiento. Como regla general, estos ejemplos manualmente marcados de antemano. El sistema de reconocimiento de objetos, por ejemplo, puede absorber miles marcadas con imágenes de coches, las casas, el café en las tazas y así sucesivamente, y luego ser capaz de encontrar imágenes visuales en estas imágenes, que constantemente se correlacionan con etiquetas específicas.

Neuronal en la red es a menudo comparado con el cerebro humano, en el que también hay redes en las que participan miles o millones de sencillos de mecanizado de nodos, que están estrechamente relacionadas entre sí. La mayoría de las redes neuronales se organizan en capas de nodos, y los datos pasan a través de ellos en una sola dirección. Un único nodo puede estar relacionado con varios nodos en la capa debajo de ella, de la que recibe los datos, y varios nodos en la capa superior, en la que se transmite los datos.

Cada uno de estos entrantes relaciones nodo asigna un número — "el peso". Cuando la red está activa, el nodo recibe diferentes conjuntos de datos diferentes números de cada uno de estos compuestos y se multiplica por el peso. A continuación se resume los resultados, formando un único número. Si este número es menor que el umbral, el nodo no transmite datos a la siguiente capa. Si el número supera el umbral, el nodo "activa", el envío de un número es la suma ponderada de los datos de entrada — en todas las conexiones de salida.

Una vez que la red neuronal es entrenada por su peso y los valores de umbral se establece inicialmente en orden aleatorio. Datos de entrenamiento se sirven en la parte inferior de la capa de entrada y pasan a través de las siguientes capas, умножаясь y суммируясь de una manera complicada, hasta que, finalmente, no llegan, que ya se han convertido en una capa de salida. Durante el entrenamiento del peso y los valores de umbral se adaptan constantemente, hasta datos de entrenamiento con las mismas etiquetas no serán dar a similares conclusiones.

la Mente y de la máquina

Las redes Neuronales, se describen Маккалоу y Питтсом en 1944, tuvieron, y umbrales, y de peso, pero no fueron organizadas por capas, y los científicos no hicieron ningún mecanismo específico de aprendizaje. Pero Маккалоу y pitts han demostrado que la red neuronal podría, en principio, calcular cualquier función, como cualquier equipo digital. El resultado fue más desde el área de la neurociencia, de la que la informática: era necesario suponer que el cerebro humano puede considerarse como un dispositivo de computación.

Las redes Neuronales siguen siendo una herramienta valiosa para neurobiológicas de la investigación. Por ejemplo, las capas de la red o de la regla de la configuración de los pesos y umbrales de la reproducen las características observadas humana нейроанатомии y funciones cognitivas y, por tanto, han tocado en cómo el cerebro procesa la información.

El Primer entrenable la red neuronal, "Перцептрон" (o "Персептрон"), se demostró el psicólogo de la universidad de cornell, frank Розенблаттом en 1957. Diseño Перцептрона" era similar a la de la moderna neuronal en la red, excepto por el hecho de que tenía una capa ajustables con los pesos y umbrales, encajada entre la entrada y salida de las capas.

"Перцептроны" activamente investigado en psicología y ciencias de la computación antes de 1959, cuando minsky y Паперт publicaron un libro titulado "Перцептроны", que mostró que la obra normales de cálculos en el персептронах es práctico desde el punto de vista del tiempo.

"por Supuesto, todas las restricciones desaparecen, si hacer la máquina un poco más difícil, por ejemplo, en dos capas", dice poggio. Pero en aquel momento, el libro ha tenido un efecto moderador en la investigación de redes neuronales.

"Estas cosas vale la pena considerar el contexto histórico",dice poggio. "La prueba se realizó para la programación en lenguajes como Lisp. Antes de esto, la gente tranquilamente utilizado equipos analógicos. No estaba del todo claro, en aquel momento, a lo que generalmente resultará en la programación. Creo que son ligeramente переборщили, pero como siempre, no se puede dividir el todo en blanco y negro. Si considerar esto como una competencia entre el analógico y el cálculo y el digital de cálculo, entonces lucharon por lo que se necesita".

Frecuencia

En La década de 1980 años, sin embargo, los científicos han desarrollado algoritmos para la modificación de los pesos de las redes neuronales y los umbrales que han sido lo suficientemente eficaces como para redes con más de una capa, eliminando muchas de las restricciones definidas por minsky y Папертом. Esta área ha experimentado un renacimiento.

Pero con un razonable punto de vista en las redes neuronales algo me faltaba. Lo suficientemente prolongado entrenamiento podría dar lugar a la revisión de la configuración de la red hasta el momento, que se comenzará a clasificar los datos de manera útil, pero que estos ajustes se entiende? ¿Qué características de la imagen de la mira, el reconocedor de objetos y como se recoge en sus partes, para formar visuales firmas de coches, más casas, y tazas de café? El estudio de los pesos individuales de las conexiones no responde a esta pregunta.

En los últimos años, científicos de informática comenzaron a inventar ingeniosos métodos para determinar el análisis de las estrategias adoptadas нейронными redes. Pero en la década de 1980 de la estrategia de estas redes eran incomprensibles. Por lo tanto, en el cambio de siglo las redes neuronales han sido expulsados de las máquinas vectoriales, un enfoque alternativo a la sala de máquinas de aprendizaje, basado en la pura y elegante de las matemáticas.

El Reciente aumento del interés por las redes neuronales, la revolución de aprendizaje profundo — está obligado a la industria del videojuego. La compleja componente gráfico y de ritmo rápido de los modernos videojuegos requiere de un dispositivo de hardware que pueda mantenerse al día con la tendencia, lo que originó el GPU (procesador gráfico), con miles de relativamente simples de núcleos de procesamiento en un solo chip. Muy pronto, los científicos dieron cuenta de que la arquitectura de la gpu, ideal para redes neuronales.

Los Modernos procesadores gráficos han permitido construir la red de la década de 1960 y de dos y de tres capas de la red de la década de 1980 en los ramos de 10, 15 y hasta 50 capas de la red de hoy en día. Esto es lo que responde a la palabra "profundo" en el "aprendizaje profundo". A la profundidad de la red. En la actualidad, una profunda educación es responsable de los sistemas más eficaces en casi todas las esferas de la investigación de la inteligencia artificial.

Bajo la capucha

La Opacidad de las redes todavía preocupa a los teóricos, pero en este frente hay avances. Poggio dirige el programa de investigación sobre el tema de los fundamentos teóricos de la inteligencia. No hace mucho tiempo poggio y sus colegas publicaron teórica, el estudio de redes neuronales en tres partes.

La Primera parte, que fue publicado el mes pasado en el International Journal of Automation and Computing, está dirigida a un rango de cálculo que se pueden llevar a cabo de una red de aprendizaje profundo, y, cuando profundos de la red tienen la ventaja sobre el poco profundas. La parte dos y tres, que se publicaron en forma de informes, dirigirse a los problemas de optimización global, es decir, garantizar que la red se va a encontrar la configuración que mejor se adapten a los datos de entrenamiento, así como de los casos, cuando la red es tan consciente de la especificidad de la formación de sus datos, que no se puede generalizar a otras manifestaciones de las mismas categorías.

Todavía un montón de teóricos de preguntas, a las que tiene que dar. Pero existe la esperanza de que las redes neuronales pueden, finalmente, romper el ciclo de las generaciones, que ввергают su al calor, el frío.