Lo que teme el propio desarrollador de la ia en su creación

Como la persona que se ocupa de la investigación de la inteligencia artificial, a menudo me encuentro con la opinión de que muchas personas tienen miedo de la ia y de lo que se puede convertir. En realidad, no es de extrañar, si se mira desde la posición de la historia de la humanidad, prestando atención a lo que пичкает nos la industria del espectáculo, que la gente puede tener miedo de кибернетического de la rebelión, que te hace vivir nosotros en aislados de los territorios, y otros convertirá en "Матрицеподобный" el aspecto humano de las pilas.

Y sin embargo para mí, mirando a todos esos evolutivas de los modelos de computadora que utilizo en el desarrollo de la ia, es difícil pensar que mis inocuo, ojo limpio bebé crear en la pantalla de mi ordenador una vez puedan convertirse en monstruos futurista антиутопии. Si realmente me puede llamar el "destructor de mundos", como una vez arrepentido y se describió a sí mismo oppenheimer después de que encabezó el programa de creación de la bomba nuclear?

Tal vez yo hubiera aceptado tal gloria, y puede crítica de mi trabajo todavía tienen la razón? Puede, realmente es hora de dejar de evitar las preguntas sobre cuáles son los temores con respecto a la inteligencia artificial tienen de mí mismo, como el experto en el campo de la ia?

el Miedo ante la imprevisibilidad

El Ordenador HAL 9000, que se convirtió en el sueño de un científico de ciencia ficción de arthur charles clarke y encarnado en la vida de кинорежиссером stanley comentario en su cinta "odisea en el Espacio 2001", es un excelente ejemplo de un sistema que le ha dado un error debido a circunstancias imprevistas.

Muchos de los sistemas complejos – el titanic, el transbordador espacial de la NASA y de la central nuclear de chernobyl – los ingenieros tenían que combinar entre una gran cantidad de componentes. Es posible, a los arquitectos de estos sistemas es bien conocido, ya que cada elemento funciona por separado, pero que no estaban conscientes de que todos los componentes funcionen juntos.

El Resultado de acero del sistema, que nunca hasta el final, no fueron comprendidos por sus mismos creadores, que llevó a la conocida consecuencias. En cada caso, el barco se hundió, dos transbordador espacial a punto de estallar, y casi toda europa y parte de asia se enfrenta al problema de la contaminación – conjunto relativamente pequeños problemas, pero por casualidad se han producido al mismo tiempo, han creado un efecto catastrófico.

Yo muy bien puedo imaginar cómo nosotros, los creadores de la ia, podemos llegar a resultados similares. Tomamos los últimos desarrollos y estudios en когнивистике (ciencia sobre el pensamiento, la — aprox. ed), la traducimos en computación algoritmos y añadimos todo esto a los sistemas existentes. Intentamos desarrollar la ia sin una comprensión completa de su propio intelecto y la conciencia.

Este sistema Watson de IBM o Alpha de Google, son artificiales las redes neuronales, que poseen impresionantes rutinas de cálculo, y son capaces de manejar con tareas complejas. Pero hasta el momento lo único a lo que resultará en un error en su trabajo, será el resultado de la pérdida en el intelectual, el juego de "Jeopardy!" o de la pérdida de la posibilidad de ganar el próximo mejor jugador del mundo en un tablero de juego de rompecabezas.

Las consecuencias no son de carácter mundial. En realidad, lo peor que puede suceder con las personas, en este caso, es que es alguien pierde una cierta cantidad de dinero en apuestas.

Sin Embargo, la arquitectura de la ia se vuelve cada vez más difícil, informáticos procesos — cada vez más rápido. La posibilidad de la ia con el tiempo irán aumentando. Y esto nos lleva a lo que vamos a empezar a poner en ia más y más responsabilidades, incluso a pesar de las crecientes riesgos de contingencias.

Somos conscientes de que "los errores son parte de la naturaleza humana", por lo tanto, para nosotros será sólo físicamente imposible crear realmente seguro en todo el sistema.

el Temor ante el mal uso de

No Me preocupa la imprevisibilidad de las consecuencias en el trabajo de la ia, que estoy diseñando, utilizando para ello, el enfoque de la denominada нейроэволюции. Estoy creando entornos virtuales y заселяю sus seres digitales, dejando a sus "cerebros" del comando de la decisin de las tareas de dificultad creciente.

Con el tiempo, la eficacia de la solución de tareas de estos seres que crece, evoluciona. Aquellos que se cumple con las tareas mejor, todos los que seleccionan para la reproducción, para formar la base de la nueva generación. A través de muchas generaciones de estos digitales de creación desarrollan la capacidad cognitiva.

Por Ejemplo, ahora estamos haciendo los primeros pasos en el desarrollo de máquinas a nivel de realizar simples tareas de navegación, la adopción de soluciones simples o memorizar pares de bits de información. Pero pronto lograremos el desarrollo de máquinas capaces de llevar a cabo las tareas más complejas y tendrán mucho más eficaz donde el nivel global de la inteligencia. Nuestra final el objetivo es crear una inteligencia de nivel humano.

En el transcurso de esta evolución, trataremos de detectar y corregir todos los errores y problemas. Con cada nueva generación de la máquina serán más capaces de manejar los errores, en comparación con las anteriores. Esto aumentará las posibilidades de que podemos determinar todas las consecuencias imprevisibles en симуляциях y eliminarlos antes de que puedan realizarse en el mundo real.

Otra posibilidad que brinda el método evolutivo de desarrollo, consiste en otorgar la inteligencia artificial de la ética. Es probable que tales cuestiones éticas y morales características de la persona, como la fiabilidad y el altruismo, son el resultado de nuestra evolución y el factor de continuar.

Podemos crear un entorno artificial y dotar a la máquina dehabilidades que les permitan demostrar la bondad, la honestidad y la empatía. Esto puede ser una forma de asegurarse de que estamos desarrollando más obedientes siervos, que despiadados robots asesinos. Sin embargo, a pesar de que нейроэволюция puede reducir el nivel de las consecuencias no deseadas en el comportamiento de la ia, no puede evitar que el mal uso de la inteligencia artificial.

Como el científico, tengo que seguir con sus obligaciones antes de la verdad y de informar sobre lo que ha descubierto en el marco de sus experimentos con independencia de que me gustan sus resultados o no. Mi objetivo no es, para determinar lo que me gusta y lo que no. Lo importante es que yo pueda publicar su trabajo.

el Temor incorrectos prioridades sociales

Para Ser un científico no significa perder la humanidad. Tengo que en algún nivel volvió a tomar contacto con sus esperanzas y temores. Como es moral y políticamente motivada por una persona, y debe tener en cuenta las posibles consecuencias de su trabajo y su posible efecto en la sociedad.

Como científicos y como representantes de la sociedad, todavía no hemos llegado a la clara idea de lo que queremos obtener de la ia y que debe convertirse en el final. En parte, esto es, por supuesto, está relacionado con el hecho de que nosotros todavía no entendemos su potencial. Pero necesitamos entender y decidir lo que queremos obtener de realmente avanzado de la inteligencia artificial.

Una de las más grandes áreas en la que la gente presta atención a la conversación de la ia, es el empleo. Los robots ya se realizan por nosotros compleja trabajo físico, por ejemplo, recogiendo y soldadura entre una parte de carrocería de automóviles. Pero un día llegará el día, cuando los robots cometen la ejecución de tareas cognitivas, es decir, cometen lo que antes se consideraba exclusivamente la capacidad única de la persona. Autogestión vehículos podrán reemplazar los conductores de taxi; autogestión aviones no dependerían de los pilotos.

En Lugar de recibir atención médica en áreas de emergencias, llena de siempre cansado por el personal y los doctores, los pacientes pueden tener que estudiar y aprender una serie de diagnósticos con la ayuda de expertos en sistemas con bajo acceso a todos los conocimientos médicos. La cirugía se llevarán a cabo неподверженными a la fatiga de los robots, el ideal de la "наметанной alcance de la mano".

El asesoramiento Jurídico se puede obtener de un amplio marco jurídico. Consejos de inversión vamos a consultar a los expertos, los sistemas de mercado de la predicción. Algún día, tal vez toda la humana tarea se llevará a cabo por las máquinas. Incluso mi trabajo se puede hacer más rápido gracias a la utilización de un gran número de máquinas, incansablemente investigan cómo hacer que la máquina aún más inteligente.

En las realidades de nuestra actual sociedad de la automatización ya lleva a la gente a abandonar sus puestos de trabajo, haciendo a los ricos propietarios de tales máquinas automatizadas más ricos, y el resto – más pobres. Pero no es un problema científico. Es la voluntad política y социоэкономическая problema que debe resolver la sociedad en sí.

Mis estudios de eso no quita, sin embargo, mis políticos fundamentos, junto con el de la humanidad, tal vez, darán lugar a las circunstancias en las que la ia puede convertirse en una valiosa función, en lugar de hacer la brecha entre un porcentaje de la élite mundial y el resto de nosotros aún más.

el Miedo ante el catastrófico escenario

Estamos golpeando a la última miedo, навязанному nos parece una locura de HAL 9000, el Exterminador, y de cualquier otro злодейским сверхинтеллектом. Si ia seguirá creciendo hasta que no superará el intelecto humano, ¿será artificial сверхинтеллектуальная sistema (o un conjunto de tales sistemas) al ser humano como inútil material? Cómo podemos justificar su existencia ante сверхинтеллекта, que es capaz de hacer y hacer lo que no se es capaz de ningún hombre? Si podemos evitar la suerte de ser borradas de la faz de la Tierra, las máquinas, de las cuales nosotros mismos y han ayudado a crear?

Por lo tanto, la pregunta más importante en tales circunstancias, se traduce como: ¿por qué vamos a necesitar artificial сверхинтеллекту?

Si esta situación, yo, probable, dijo, que soy una buena persona, que incluso ha contribuido a la creación de este сверхинтеллекта, antes de la que ahora estoy. Yo llamo a su compasión y empatía hacia para сверхинтеллект me ha dejado, el compasivo y сопереживающего, en el de los vivos. Yo también añadió que, de por sí, la multiplicidad de especies que posee el valor y el universo es tan grande, que la existencia de la especie humana que en ella es en realidad muy poco.

Pero yo no puedo hablar por toda la humanidad y, por tanto, nosotros todos, me será difícil encontrar un argumento fuerte. Simplemente, cuando miro a todos, veo que somos muchos lo que hemos hecho y hacemos mal. En el mundo reina el odio de unos a otros. Vamos a la guerra el uno al otro. Nos injusto repartimos la comida, el conocimiento y la asistencia médica. Nos загрязняем planeta. En este mundo, por supuesto, hay muchas cosas buenas, pero, si nos fijamos en todas las cosas malas que hemos creado y seguimos hacer, será muy difícil elegir un argumento en apoyo de nuestra supervivencia.

Afortunadamente, todavía no se tiene que justificar su existencia. Aún tenemos tiempo. De 50 a 250 años, dependiendo de la rapidez con la evolución de la inteligencia artificial. Nosotros, como especie, tenemos la oportunidad de estar todos juntos y encontrar una buena respuesta a la pregunta,¿por qué сверхинтеллект no debe se nos borrar de la faz del planeta.

Será muy difícil de resolver esta cuestión. Porque decir que apoyamos la diversidad y las diferencias etnoculturales, y hacer esto son cosas completamente diferentes. Como hablar acerca de lo que queremos salvar el planeta, y con éxito este trabajo.

Todos nosotros, ya sea cada uno en una persona o en la sociedad en general, deben prepararse para su desastroso escenario, con el tiempo, para ser capaces de mostrar y demostrar por qué nuestras creaciones deben permitirnos continuar existiendo. O simplemente podemos seguir creyendo ciegamente que este desarrollo no se puede simplemente dejar de hablar sobre el tema.

Sin Embargo, independientemente de lo que la física peligro que puede representar para nosotros сверхинтеллект, no se debe olvidar que el peligro será aún y política, sino también económica. Si no encontramos formas de mejorar nuestro nivel de vida, al final, simplemente подпитаем el capitalismo obrero inteligencia artificial, que es la de servir sólo a un puñado de elegidos, dotados de todos los medios de producción.

el Original de este artículo fue publicado en la página web theconversation.com Арендом Хинтзе (Arend Hintze), profesora adjunta de la cátedra de biología integrativa, ciencias de la computación y de ingeniería de la Universidad del estado de michigan