La ia de Google han enseñado a ser "extremadamente agresivo" cuando las situaciones estresantes

El año pasado, el famoso físico teórico stephen hawking ha declarado que la mejora de la inteligencia artificial será "o mejor, o el peor evento para toda la humanidad". Todos hemos visto "Terminator" y estamos todos bien sabemos de qué апокалиптическим el infierno puede ser nuestra existencia, si esta tiene conciencia de ia-sistema, como "electrnico de skaynet", un día decide que la humanidad ya no la necesita. Y los últimos resultados de las operaciones de la nueva ia-sistema de la compañía de DeepMind (propiedad de Google) sólo una vez más nos recuerdan la necesidad de ser muy cuidadosos cuando la producción de los robots en el futuro.

En estudios realizados a finales del año pasado, en la ia de DeepMind obtuvo y ha demostrado independientemente de lo que está en su memoria, y aún derrotó a los mejores jugadores del mundo . Además, ha perfeccionado sus habilidades y имитировании de la voz humana.

En el marco de la misma de los últimos ensayos del sistema, los investigadores probaron el "compromiso" a la cooperación. Las pruebas han demostrado que, cuando la ia DeepMind "siente" que está a punto de perder, para evitar la pérdida comienza a elegir los nuevos y el «es muy agresivos» la estrategia. El equipo de Google ha llevado a cabo con la ia de 40 millones de sesiones en un simple juego de ordenador Gathering, donde un jugador se requería para recoger los frutos. La ia de DeepMind dirigió dos de los jugadores "agentes" (cubo azul y rojo cubo). Los ingenieros de Google han producido sistema la tarea de organizar una carrera entre el «agentes» y reunir a tantos virtuales de manzana (verde)) como me sea posible.

Hasta el momento, hasta que "agentes" pueden recoger frutas, disponibles en una gran cantidad, todo fue sin problemas. Pero una vez que las reservas de manzanas se ha desacelerado, el comportamiento de los "agentes" se "agresivo". Empezaron a incrementar el uso de la herramienta (rayo láser), lo que ayudó a golpear al adversario por la pantalla de juego y, a continuación, ms recoger todas las manzanas:

Que es interesante, por la anulación del enemigo en el campo con la ayuda de un rayo láser no hay más premios no se ofrecía. Grabado en relieve el enemigo sólo algún tiempo está fuera de la pantalla, mientras que la de mayor éxito en el rival tuvo la oportunidad de opinar sin recoger más virtuales de manzanas.

Si "agentes" no usaron rayos láser, en teoría, el número acumulado de sus manzanas sería el mismo. Esto, en principio, y que ocurrió cuando, en calidad de "agentes" se utilizaron más de bajo nivel y "menos inteligentes" opciones de DeepMind. Más el comportamiento agresivo, el sabotaje y la codicia empezaban a manifestarse sólo cuando el equipo de Google comenzó a utilizar más y más complejas formas de DeepMind.

Cuando los investigadores utilizaron como "agentes" más simples de la red de DeepMind, entre ellos se observó la presencia de la "atmósfera más amistosa convivencia en el campo de juego". Sin embargo, cuando el control de los agentes pasaba cada vez más y más complejas formas de redes, la ia se tornó agresivo y empezaba a tratar de antemano golpear a un oponente con el campo de juego, para que el primero es más rápido llegar hasta el foso de la fracción de extracción de virtuales de manzanas. Los científicos de Google sugieren que cuanto más inteligente es "el agente", más eficiente es capaz de aprender, de adaptarse a las condiciones del medio y los métodos disponibles, y en última instancia a venir a la utilización de la más agresiva de las tácticas para ganar.

"Este modelo muestra que el resultado de aprendizaje y adaptación a las condiciones del medio ambiente es la manifestación de algunos de los aspectos inherentes al comportamiento humano", —, dice joel h. Лейбо, uno de los investigadores que realizaron este experimento.

"Menos de un comportamiento agresivo se manifestaba sólo cuando el aprendizaje y que se encuentra en relación a un entorno seguro, con menos riesgo de efectos después de unas u otras acciones. La codicia, a su vez, se reflejó en un esfuerzo por superar al rival de forma independiente y recoger todas las manzanas".

Después de la "cosecha" de DeepMind propusieron jugar a otro juego, bajo el nombre de Wolfpack. En esta ocasión, en ella estuvieron presentes tres ia-agente: los dos jugaron el papel de los lobos, y el resto – el papel de la extracción. A diferencia del juego Gathering, un nuevo juego de todas maneras ha contribuido a la cooperación entre los lobos. En primer lugar, es más fácil de atrapar a sus presas, y en segundo lugar, si ambos "lobo" estaban junto a la загнанной presa, ambos recibieron algún tipo de premio, independientemente de quien la ha cogido.

"la Idea es que la extracción puede ser peligrosa. Además, puede lobo solitario y es capaz de conducir su, pero existe el riesgo de su pérdida como resultado de un ataque падальщиков", —, explica el equipo.

"Pero si ambos lobo confinan a la extracción juntos, ellos son más capaces de defender de падальщиков y gracias a que reciben mayor recompensa".

En general, el juego Gathering ia DeepMind уяснил que la agresión y el egoísmo son las más eficaces estrategias para obtener el resultado deseado en un ambiente específico. De Wolfpack el mismo sistema di cuenta de que la cooperación, a diferencia de los intentos individuales, puede ser la clave de la más valiosa recompensa en determinadas situaciones. Y aunque descritos anteriormente entornos de prueba son sólo elementales de juegos de ordenador–, el mensaje principal es claro ahora. Tome diferentes de ia poseedores de los intereses encontrados en el real de situaciones, coloque en un solo entorno, y tal vez, si su tarea no se compensan con el objetivo general, el resultado depuede convertirse en una verdadera guerra. Especialmente si la persona, como uno de los eslabones en la consecución de este objetivo, será expulsado.

Como ejemplo, imagine las señales de tráfico controladas por la ia, y los vehículos no tripulados, tratan de buscar la ruta más rápida. Cada uno hace sus tareas con el fin de obtener de la forma más segura y más eficaz para la sociedad.

A Pesar de la "младенческие" los años de DeepMind y la falta de alguno de terceros para el análisis crítico de sus posibilidades, los resultados de sus pruebas llevan a los siguientes pensamientos: incluso si los tenemos y creamos, esto no significa que en los robots y la ia de los sistemas será automática estableció el compromiso de poner nuestros humano por encima de la de sus propios. Por lo tanto, para nosotros es necesario "poner buena voluntad" en la naturaleza de las máquinas y de prever cualquier tipo de "trampas" que pueden permitirles llegar a los más de los rayos láser.

Una de las tesis principales de la iniciativa de un grupo de OpenAI, dirigida al estudio de las cuestiones de ética de la inteligencia artificial, como se refleja en el 2015, de la siguiente manera:

En la actualidad los ia-sistemas poseen increíbles, pero altamente especializados de movilidad. Y probablemente, todavía tenemos mucho tiempo no va a contener en su desarrollo. Por lo menos hasta que su capacidad en la solución de casi todos intelectual de la tarea no se conviertan en superar a los hombres. Es difícil imaginar qué nivel de beneficios puede traer la ia, el nivel humano de la sociedad, así como es difícil imaginar qué tipo de daño se puede causar a la sociedad de la negligencia en relación a su creación y utilización".