Como crean un robot que quiere cambiar el mundo?

Un científico de computación christoph Солдж intenta eliminar la necesidad de las reglas que rigen el comportamiento de los robots. Su estrategia de darles objetivo: hacernos más poderosos. Christoph trabaja en Game Innovation Lab de la universidad de nueva York. Sasha maslov entrevistó a Солджа para Quanta Magazine, de la que nos enteramos de que nos es posible, no vale la pena tratar de mantener el imparable flujo de la singularidad tecnológica.

Las Famosas tres leyes de la robótica de isaac asimov fundación — restringir el comportamiento de los androides y máquinas necesarias para garantizar la seguridad de la humanidad, han sido concluyentes. Estas leyes primero aparecieron en el relato de azimov, en 1942, a continuación, en los clásicos trabajos como "Yo, robot" y suenan más o menos así:

1. un Robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. el Robot debe obedecer las órdenes, dado la gente, si no son contrarias a la Primera Ley.
3. el Robot debe proteger su propia existencia, si esta protección no entre en conflicto con la Primera o la Segunda Ley.

Por Supuesto, en estas leyes se pueden encontrar multitud de contradicciones y lagunas (que, en realidad, se disfrutó y el propio asimov). En nuestro actual siglo de software avanzado con maquinaria de aprendizaje y autónoma de la robótica, la definición y la implementación de hierro de la ética de la inteligencia artificial fue un desafío para instituciones como el Instituto de investigación de la inteligencia artificial y OpenAI.

Christoph Солдж ha adoptado un enfoque diferente. En vez de "arriba-abajo" imponer filosóficas de determinar cómo deben o no deben comportarse artificiales agentes, Солдж y su colega daniel Полани investigan la ruta de "abajo hacia arriba", o "que el robot debe hacer, en primer lugar", como escribió en su artículo "la Ampliación de derechos como la sustitución de las tres leyes de la robótica". "Extensión de derechos", un concepto que nació en el cruce de la cibernética y de la psicología, describe el interior de la motivación del agente simultánea de la resistencia y el trabajo en el medio ambiente. "Como el cuerpo, quiere sobrevivir. Él quiere dejar huella en el mundo", explica Солдж. Aspiradora Roomba, programado en la búsqueda de la estación de carga de batería baja, — es рудиментарный ejemplo "los derechos ampliados": para seguir funcionando en el mundo, él debe recibir la carga y continuar con la propia existencia, es decir, sobrevivir.

La Extensión de los derechos puede sonar como una receta para obtener el resultado que tienen miedo de los partidarios de seguro de la inteligencia artificial como nick Бострома: potente sistema autónomo, preocupada sólo la satisfacción de sus propios intereses y сходящей con la mente en el proceso. Pero Солдж, estudia hombre-mquina de la interacción social, que plantea la cuestión de si el agente con privilegios elevados "también se ocupará de la extensión de los derechos de los demás? Es necesario para que el robot no sólo quería permanecer en un estado de funcionamiento — es necesario, para que él también quería apoyar a su humano de la pareja".

Солдж y Полани dimos cuenta de que la teoría de la información ofrece una manera de hacer esto mutuo de la extensión en la base de la matemática, la que tomará en armamento no-философствующий artificial agente. "Uno de los inconvenientes de las tres leyes de la robótica es que ellos se basan en el lenguaje, y el lenguaje en alto grado de la ambigua", dice Солдж. "Estamos tratando de encontrar algo que realmente se puede cumplir".

Algunos técnicos consideran que la ia es grande, incluso catastróficas de la amenaza de la vida de las personas. Y usted?

Me voy a resistir. Es decir, creo que en la actualidad existe el temor de robots y la creciente influencia de la ia. Pero creo que en el corto plazo, probablemente podamos están más preocupados por el posible cambio de puestos de trabajo, el proceso de toma de decisiones, la pérdida de la democracia, la pérdida de la privacidad. No sé si es probable la aparición constante de ia en un futuro próximo. Pero incluso si ia controlar el sistema de salud y emitir recetas, nos cuesta pensar acerca de las cuestiones éticas que surgen en el proceso de su trabajo.

Cómo el concepto de empoderamiento nos ayudará a hacer frente a estos problemas?

Creo que la idea de la extensión de los derechos llena de nicho. Ella no permitirá que el agente de permitir a la persona a morir, pero como sólo usted será capaz de mantenerse en este umbral, se apoyará la intención de crear más oportunidades para la expresión de la persona y la influencia en el mundo. En uno de los libros de azimov de robots acaba de terminar se colocará todas las personas en contenedores seguros. Sería deseable. Si nuestra capacidad de influir en el mundo constantemente mejorando, yo creo que será mucho más interesante para lograr el objetivo.

¿Has probado sus ideas virtuales de los agentes en видеоигровой entorno. ¿Qué ha ocurrido?

El Agente, por motivos propios privilegios elevados, se alejan de proyectil y no caerá en el hoyo, en general, para evitar cualquier situación que puede llevar a la pérdida de la movilidad, la muerte o daños por lo tanto, para reducir su операциональность. Él sólo va a mantenerse.

Junto con el jugador de la persona, que también dotado de capacidades de los derechos, hemos visto que el robot será la de mantener cierta distancia para no obstaculizar el movimiento de la persona. Él no impedirá que usted no estará en el pasillo, para que no pueda pasar. Él se mantenga lo más cerca posible a usted, a fin de tener la oportunidad de ayudar. Esto hace que el comportamiento, en el que puede ytomar la iniciativa, y seguir a un extraño.

Por ejemplo, hemos creado un escenario en el que tuvimos láser barrera, peligroso para los humanos, pero seguro para el robot. Si una persona en este juego se acerca a los lasers, el robot recibe más estímulos para el bloqueo del laser. El incentivo se intensifica cuando el hombre se hace justo antes de la barrera, como si la intención de sus cruzar. Y el robot bloquea en realidad laser, convirtiéndose delante de un hombre.

Manifestaban si estos agentes ¿o no intencional de la conducta, el estilo de lo que se deriva de las tres leyes en el libro de azimov?

En primer lugar, el comportamiento es bueno. Por ejemplo, virtual robot перехватывал enemigos que trataron de matarte. De tiempo en tiempo se podía meterme debajo de una bala en la cabeza, si era la única manera de salvarte. Pero lo que nos sorprendió especialmente, desde el principio, que él también tenía gran temor de la persona.

La Razón de esto tiene que ver con su "близорукой" modelo: de hecho, se analiza como una secuencia de acciones definidas en dos-tres pasos que pueden influir en el mundo, tanto para usted como para él. Por lo tanto, el primer paso que hemos programado lo que el jugador actúa de forma aleatoria. Pero en la práctica, esto se traducía en que el agente se refería a la persona como a una especie de психопату que podía en cualquier momento, por ejemplo, disparar contra el agente. Por lo tanto, el agente tenía que muy seleccionar cuidadosamente la situación en que el hombre no podía matarlo.

Tenemos que arreglar esto, por lo tanto, hemos modelado la denominada hipótesis acerca de la confianza. De hecho, socio-agente actúa partiendo de la premisa de que la persona va a elegir sólo aquellas acciones que no serán limitar los derechos avanzados del agente — tal vez, es más adecuada para un compañero de modelo.

También Hemos notado que en el juego (si usted ha tenido, digamos, 10 puntos de salud, el compañero no sobreviva especialmente, si usted perdió ocho o nueve de estos puntos se podía disparar en vosotros la vez, sólo por diversión. Y entonces nos dimos cuenta de que hay una brecha entre el mundo en que vivimos, y el modelo en el juego de equipo. Una vez que hemos modelado limitar la capacidad de los causados por la pérdida de la salud, el problema ha desaparecido. También se puede resolver mediante la creación no близорукую modelo, que podría simular la acción incluso en un par de pasos en el futuro. Si el agente pudiera mirar más hacia el futuro, habría visto que tener más puntos de salud puede ser útil para futuros eventos.

Teniendo en cuenta que el cambio de la cantidad de puntos de salud de ningún modo en repercute en mis extendidas de los derechos, el agente decide: "Dispara, yo en él, no dispara — ¿cuál es la diferencia?". Y a veces se dispara. Que, por supuesto, es un problema. No quiero aleatorios tiros de los jugadores. Hemos añadido una revisión para virtual robot un poco más preocupado por su estado de salud, que sobre su.

Como se hace estos conceptos precisos?

Si se considera a los agentes como los sistemas de gestión, que se puede descomponer en tecnología de la información componentes: en un mundo en el que ocurren, o de lo contrario te toca. Estamos hablando de la información no como acerca de las cosas que usted percibe, así como sobre los impactos de cualquier tipo, puede ser una sustancia, algo протекающее entre el mundo y usted. Puede ser la temperatura o los nutrientes en su cuerpo. Cualquier cosa que cruza la frontera entre el mundo y el agente, lleva en sí la información. De la misma manera, el agente puede influir en el mundo exterior de las más variadas formas, que hace de él la información.

Se Puede considerar el flujo como el ancho de banda del canal, es un concepto de la teoría de la información. Usted puede tener amplias facultades, derechos avanzados, si es capaz de tomar diferentes acciones que conducen a diferentes resultados. Si algo sale mal, usted perderá sus poderes, ya que la pérdida de la capacidad corresponde a la cuantificación de la reducción de ancho de banda entre usted y el medio ambiente. Esta es la idea.

¿Qué debe saber el agente, para extender la autoridad actuó en su totalidad?

Los derechos Avanzados tienen la ventaja de que se pueden aplicar incluso cuando usted no tiene un conocimiento completo. El agente necesita realmente un modelo de cómo sus acciones afectarán el mundo, pero no tenía una comprensión completa del mundo y de todas sus sutilezas. A diferencia de algunos de los enfoques que tratan de simular todo en el mundo, en la medida de lo posible, en nuestro caso sólo tenemos que averiguar cómo sus acciones afectan a su percepción. No es necesario conocer todo acerca de todo; se necesita sólo un agente que explora el mundo. Él está haciendo algo y tratando de entender cómo sus acciones afectan al mundo. El modelo está creciendo, y el agente de la mejor y más consciente de dónde se extienden los límites de su mandato.

¿Has probado en un entorno virtual. ¿Por qué no en el mundo real?

El Principal obstáculo de escala de este modelo y para ponerla en el real robot, es que la dificultad de calcular el ancho de banda del agente y la persona en un rico entorno, como el mundo real, por mucho tiempo por delante. Todos estos procesos aún tiene que llegar a ser más eficaces. Soy optimista, pero hasta que este problema sigue siendo puramente computacional. Por lo tanto, comprobamos el funcionamiento del sistema en un juego de ordenador, en forma simplificada.

Parece que la extensión de derechos y oportunidades, en el ideal, hará que nuestras máquinas potentes de los perros.

Incluso He conocido a algunos робототехников que, a sabiendas, modelan el comportamiento de un compañero en base a los perros. Creo que si los robots van a relacionarse con nosotros, como nuestros perros, en un futuro próximotodos somos capaces de llevarse bien.