Los robots asesinos? Deténgase, incluso los buenos, los robots son impredecibles hasta el horror

Los Líderes de más de un centenar de las principales empresas del mundo en el campo de la inteligencia artificial están muy preocupados por el desarrollo de "robots asesinos". En la carta abierta de las naciones unidas, estos líderes de negocios, incluyendo ilona Máscara de Tesla y de los fundadores de la гугловской DeepMind – advirtieron que el uso de la tecnología independiente de las armas, puede ser tomada por los terroristas y деспотами, ya sea en mayor o menor medida sufra el robo.

Pero la verdadera amenaza mucho más grave – y no se trata sólo de hombres a la delincuencia, sino también en el de las máquinas. El estudio de sistemas complejos demuestra que se pueden comportarse mucho más impredecible de lo que se puede concluir a partir de la suma de las acciones individuales. Por un lado, esto significa que la sociedad humana puede comportarse de manera muy diferente de la que se podía esperar, al estudiar el comportamiento de los individuos. Por otro lado, es aplicable a la tecnología. Incluso los ecosistemas simples programas de inteligencia artificial – que llamamos romos, buenos bots pueden sorprendernos. Incluso los bots pueden comportarse кошмарно.

Algunos de los elementos que componen los sistemas complejos, tales como el mercado económico mundial el tiempo, tienden a no interactuar simple, de forma lineal. Esto hace que estos sistemas son muy difíciles para el modelado y la comprensión. Por ejemplo, incluso después de años de investigación del clima no se puede predecir el comportamiento a largo plazo de tiempo. Estos sistemas son tan sensibles a los cambios, lo tira al fuego en ellos reaccionan. Es muy difícil conocer el estado exacto de este sistema en un momento determinado. Todo esto hace que estos sistemas internamente impredecibles.

Todos estos principios son aplicables a grandes grupos de personas que actúen a su antojo, ya sea humano de la sociedad o de un grupo de robots con inteligencia artificial. Recientemente, los científicos han estudiado uno de los tipos de sistema complejo en el que los buenos bots se utilizaron para de edición automática de artículos en la wikipedia. Las diferentes robots diseñados, han sido y se utilizan de confianza editores de wikipedia, y el software de código abierto y está disponible para todos. Por separado tienen el objetivo común de mejorar la enciclopedia. Sin embargo, el comportamiento colectivo resultó ser sorprendentemente efectivo.

En la base de la labor de estos bots de wikipedia están bien establecidas las reglas y condicionamientos, pero debido a que el sitio web no tiene un sistema central de control, no hay una coordinación eficaz entre las personas, los representantes de diferentes robots. En los resultados se presentaron par de robots, que unos años reversión de los cambios de unos a otros y nadie lo notaba. Y, por supuesto, ya que estos bots no aprenden, pero ellos no se dieron cuenta.

Estos robots están diseñados para acelerar el proceso de edición. Pero las pequeñas diferencias en el diseño de robots o entre las personas que las utilizan, pueden provocar medios de gasto de los recursos de la actual "guerra de edición", que se habría resuelto mucho más rápido con la ayuda de los editores.

Los Investigadores también encontraron que los robots se han comportado de manera diferente en diferentes versiones de idiomas de la wikipedia. Las reglas, aparentemente, son prácticamente idénticos, los objetivos son idénticos, la tecnología parecidas. Pero alemana de wikipedia, la cooperación de los bots es mucho más eficaz y productivo, que, por ejemplo, en portuguesa. Esto se puede explicar sólo por las diferencias entre los seres humanos, que han dirigido estos bots en diferentes entornos.

Exponencial confusión

El trabajo con la wikipedia no disponen de una amplia autonomía y el sistema ya no está en conformidad con los objetivos individuales de los bots. Pero Wikimedia Foundation tiene previsto utilizar la ia, que dará más autonomía a estos bots. Y esto, probablemente, dará lugar a un comportamiento impredecible.

Un ejemplo de lo que puede suceder, han demostrado que los bots creados para hablar con la gente, cuando se les obligó a comunicarse entre sí. Ya no sorprenden las respuestas de los asistentes personales como Siri. Pon a interactuar entre sí y que rápidamente comenzará a comportarse de un modo inesperado, discutir e incluso insultar a los demás.

Cuanto más grande sea el sistema y cuanto más autónoma sea cada robot, más compleja e impredecible será el futuro comportamiento de este sistema. Wikipedia es un ejemplo de trabajo de un gran número relativamente simples bots. Ejemplo con el chat-bot es un ejemplo de un pequeño número relativamente complejos e ingeniosos bots, en ambos casos, se producen conflictos inesperados. La complejidad y, por lo tanto, la imprevisibilidad crecen de manera exponencial a medida que se agregan en el sistema de la individualidad. Por lo tanto, cuando en el futuro aparecerán sistema con una gran cantidad de muy complejos robots, la imprevisibilidad de sus excedan los límites de nuestra imaginación.

Полыхающее locura

Самоуправляемы los coches, por ejemplo, la promesa de un avance en la eficacia y la seguridad vial. Pero todavía no sabemos qué va a pasar cuando tengamos grande es salvaje, el sistema totalmente independiente de coches. Pueden comportarse de forma diferente, incluso dentro de una pequeña flota individuales de coches en un entorno controlado. Y aún más impredecible el comportamiento puede manifestarse, cuando autogestión vehículos, "capacitados" de diferentes personas en diferentes lugares, comenzarán a interactuar entre ellos.

Las Personas pueden adaptarse a las nuevas reglas y acuerdos con relativa rapidez, pero con trabajo se intercambian entre los sistemas.Artificial de los agentes puede ser aún más difícil. Por ejemplo, si "entrenado en alemania" el coche iba a ir, por ejemplo, en italia, no sabemos cómo llegó a dominar el no escritas de acuerdos culturales, seguido de muchos otros "entrenados en italia" de los coches. Algo diario como la intersección del cruce puede llegar a ser mortal arriesgado, porque simplemente no sabemos si la máquina interactuar, como se esperaba, o comiencen a comportarse de forma impredecible.

Ahora piensen sobre robots-asesinos, que acosan la Máscara y el de sus colegas. Un robot asesino puede ser muy peligroso en las manos. Y el sistema de la inestabilidad de robots asesinos? Piensa por ti mismo.