De que tem medo o próprio desenvolvedor AI na sua criação

Como uma pessoa envolvida em pesquisas de inteligência artificial, muitas vezes eu me deparo com a opinião sobre o fato de que muitas pessoas têm medo de AI e o que ele pode tornar-se. Na verdade, não é de admirar, se você olhar a partir da posição da história da humanidade, prestando atenção ao que пичкает nós, a indústria do entretenimento, que as pessoas podem ter medo de кибернетического da rebelião, o que fará com que viver nos autônomo territórios, e os outros vai se transformar em "Матрицеподобный" vista humano pilhas.

, E de tudo para mim, olhando para todas essas evolutivos os modelos de computador que eu uso no trabalho de desenvolvimento da IA, é difícil pensar que os meus inocentes, puras como a lágrima de um bebê de criar na tela do meu computador um dia podem se transformar em monstros futurista bradbury. Realmente me pode ser chamado de "o destruidor dos mundos", uma vez arrependido, e disse de si mesmo Oppenheimer depois que liderou o programa de criação de uma bomba nuclear?

Eu poderia ter tomado tal glória, e pode crítica do meu trabalho, tudo certo? Talvez eu realmente hora de parar de evitar perguntas sobre os medos em relação à inteligência artificial estão disponíveis junto de mim, como especialista na área de IA?

o Medo do imprevisível

O Computador HAL 9000, que se tornou o sonho científica ficção científica Arthur c. Clarke e consagrado em vida produtores de cinema Stanley Kubrick em sua faixa "odisséia no Espaço 2001", é um excelente exemplo de um sistema, deu falha devido a circunstâncias imprevistas.

Em muitos sistemas complexos – Titanic, o ônibus espacial da NASA e da energia nuclear em Chernobyl – os engenheiros tinham que combinar entre um conjunto de componentes. Talvez, arquitetos destes sistemas era bem conhecido, como cada elemento funciona individualmente, mas eles não são bem compreendidos, como todos estes componentes trabalham juntos.

O Resultado é um sistema que nunca, até o fim, não foram compreendidos a sua criadores, o que levou ao famoso conseqüências. Em cada caso, o navio afundou, dois ônibus espacial explodiu e quase toda a Europa e parte da Ásia se depara com o problema da poluição radioativa – conjunto de relativamente pequenos problemas, mas por acaso ocorreram simultaneamente, criaram um efeito.

Eu bem posso imaginar que, como nós, os criadores AI, podemos chegar a resultados semelhantes. Pegamos os últimos desenvolvimentos e estudos em когнивистике (ciência sobre o pensamento, — aprox. red), traduzindo-os em computador para algoritmos e adicionando tudo isso em um sistema existente. Estamos tentando desenvolver um AI sem uma compreensão completa de sua própria inteligência e consciência.

A sistemas como o Watson da IBM ou Alpha do Google, constituem uma rede neural artificial, com impressionantes de computação e oportunidades e são capazes de lidar com tarefas complexas. Mas até agora a única, o que levará a um erro em seu trabalho, é o resultado de perder intelectual jogo "Jeopardy!" ou uma oportunidade perdida de vencer a próxima melhor jogadora do mundo de tabuleiro de um jogo de Go.

Esses efeitos não são de caráter mundial. Na verdade, a pior coisa que pode acontecer com as pessoas neste caso, é alguém perde uma certa quantia de dinheiro em apostas.

No entanto, a arquitetura IA se tornando cada vez mais difícil e processos do computador — tudo é mais rápido. Recursos de IA, com o tempo, só irá aumentar. E já vai levar-nos para o fato de que vamos começar a contar para a AI, mais responsável, apesar do risco de circunstâncias imprevistas.

Estamos perfeitamente conscientes de que "o erro é parte da natureza humana", portanto, para nós, é apenas fisicamente impossível criar realmente segura em todo o sistema.

o Medo do uso incorreto

Eu não estou muito preocupado com a imprevisibilidade no trabalho AI, que estou desenvolvendo, usando para isso a abordagem do chamado нейроэволюции. Eu crio um ambiente virtual e заселяю suas digitais dos seres, dando o seu "cérebro" da equipe nas tarefas de complexidade crescente.

Com o tempo, a eficácia da solução de tarefas, esses seres cresce, evolui. Quem lida com as tarefas de melhor, de todos os selecionados para a reprodução, criando a sua base de uma nova geração. Através de muitas gerações, esses digital de criação de desenvolver habilidades cognitivas.

Por Exemplo, agora nós estamos fazendo os primeiros passos no desenvolvimento de máquinas para o nível de execução simples tarefas de navegação, a adoção de soluções simples de memorizar pares de bits de informação. Mas em breve teremos o desenvolvimento de máquinas capazes de realizar tarefas mais complexas e vão ter muito mais eficaz o nível global de inteligência. Nossa o objetivo final é a criação de inteligência de nível humano.

No decorrer desta evolução, o que vamos tentar descobrir e corrigir todos os erros e problemas. Com cada nova geração de máquinas será melhor lidar com erros, em comparação com as anteriores. Isso aumentará as chances de que nós possamos identificar todos os efeitos imprevisíveis no симуляциях e eliminá-los antes de eles podem ser atingidas no mundo real.

Mais uma oportunidade que dá a evolução do método de desenvolvimento, é o surto de inteligência artificial ética. É provável que tais éticos e morais características da pessoa, como a confiabilidade e o altruísmo, são o resultado de nossa evolução e fator de continuar.

Podemos criar um ambiente artificial e dotar a máquinahabilidades, permitindo-lhes demonstrar a bondade, a honestidade e a эмпатию. Isso pode se tornar uma forma de certificar-se de que nós desenvolvemos mais obedientes servos, que implacáveis robôs assassinos. No entanto, apesar do fato de que нейроэволюция pode reduzir o nível de efeitos imprevisíveis no comportamento da IA, ela não pode impedir o uso indevido da inteligência artificial.

Como cientista, eu tenho que seguir as suas obrigações com a verdade e informar que encontrou através de seus experimentos, independentemente disso, gosto de me seus resultados ou não. A minha tarefa não é, para determinar o que gosto e o que não. O importante é apenas o que eu posso divulgar meu trabalho.

o Medo de errado sociais prioridades

Ser um cientista não significa perder a humanidade. Eu tenho em algum nível de voltar a tomar contato com suas esperanças e medos. Como é moral e politicamente motivada a personalidade, o eu deve-se considerar o impacto potencial do seu trabalho e o seu possível efeito sobre a sociedade.

Como cientistas e como representantes da sociedade, que ainda não chegaram a uma clara ideia, de que é que queremos obter a partir de AI e que ele deve tornar-se o último. Isto é, em parte, é claro, devido ao fato de que nós ainda não entendemos o seu potencial. Mas ainda precisamos de perceber e decidir o que queremos receber de realmente avançado de inteligência artificial.

Um dos grandes áreas, em que as pessoas prestam atenção na conversa de IA, é um emprego. Robôs já realizam por nós complexa de actividade física, por exemplo, montando e soldando entre si partes do corpo de automóveis. Mas um dia virá um dia quando robôs de cobre a execução de algumas tarefas cognitivas, ou seja, cobre o que, antes, pensava-se exclusivamente a capacidade única para mais de uma pessoa. Autogestão carros será capaz de substituir a шоферов de táxi; autogestão aviões não vão precisar de pilotos.

Ao Invés de receber assistência médica em postos de emergência, preenchido sempre cansado de pessoal e doutores, os pacientes serão capazes de realizar a pesquisa e a conhecer os diagnósticos utilizando sistemas especialistas com dados de acesso de todos os médicos do conhecimento. Operações cirúrgicas serão realizadas неподверженными à fadiga robôs, com o ideal de "наметанной mão".

A consultoria Jurídica será possível obter a partir de uma abrangente base legal. Para dicas de investimentos vamos recorrer a perito sistemas de mercado de previsão. Talvez, um dia, toda a humana, o trabalho será executado por máquinas. Mesmo o meu trabalho, será possível fazer mais rápido graças ao uso de um grande número de máquinas incansavelmente a examinarem, como fazer com que as máquinas ainda mais inteligentes.

Na realidade da nossa atual sociedade de automação já faz com que as pessoas a abandonar os seus empregos, o que faz os ricos proprietários de tais automatizado de máquinas mais ricos e outros mais pobres. Mas isso não é um problema científico. É político e социоэкономическая problema que deve resolver, a própria sociedade.

A Minha pesquisa não mudarão, contudo, as políticas fundações, junto com a humanidade, talvez, resultar das circunstâncias em que IA ser capaz de se transformar em apenas uma função útil, em vez de fazer a diferença entre um por cento elite mundial e o resto a gente ainda mais.

o Medo de conseqüências script

Estamos alcançando o último medo, навязанному nos louco de HAL 9000, Терминатором e qualquer outro iníquo сверхинтеллектом. Se IA continuar a evoluir até que não vai superar a inteligência humana, tornar-se artificial сверхинтеллектуальная o sistema (ou o conjunto de tais sistemas) considerar a pessoa como um inútil de um material? Como podemos justificar a sua existência perante a face de сверхинтеллекта, capaz de fazer e fazer algo que não é capaz nem de um homem? Se seremos capazes de escapar do destino de ser apagado da face da Terra, máquinas, das quais nós mesmos e ajudou a criar?

Portanto, a questão mais importante em tais circunstâncias, vai soar assim: por que nós vamos precisar de inteligência artificial сверхинтеллекту?

Случись essa situação, eu teria, talvez, disse que eu sou uma boa pessoa, que mesmo a contribuição para a criação deste сверхинтеллекта, diante do qual agora me encontro. Eu teria chamou a sua compaixão e empatia, para сверхинтеллект me deixou, tal сострадающего e сопереживающего, vivo. Eu também acrescentou que, em si, a diversidade de espécies tem valor e que o Universo é tão grande, que a existência da espécie humana, ela é realmente muito pouco.

Mas eu não posso falar por toda a humanidade, portanto, por nós todos, para mim, será difícil encontrar um argumento convincente. Simplesmente, quando eu olho para todos nós, eu realmente vejo que temos muito o que fizemos e fazemos de errado. No mundo reina o ódio de uns para com os outros. Nós vamos para a guerra uns aos outros. Nós injusto distribuímos alimentos, conhecimento e assistência médica. Nós загрязняем planeta. Neste mundo, é claro, há muitas coisas boas, mas, se você olhar para todas as coisas ruins que fizemos e continuamos a fazer, vai ser muito difícil pegar o argumento em apoio da nossa futura existência.

Felizmente, ainda não terá que justificar a sua existência. Ainda temos tempo. De 50 a 250 anos, dependendo de quão rápido irá desenvolver a inteligência artificial. Nós, como espécie, temos a oportunidade de reunir-nos todos e encontrar uma boa resposta para a perguntapor que сверхинтеллект não deve apagar-nos da face do planeta.

Será muito difícil resolver essa questão. Afinal, dizer que apoiamos a diversidade e étnicos e culturais as diferenças, e fazer isso são coisas completamente diferentes. Como falar sobre o que nós queremos salvar o planeta, e com êxito lidar com isso.

Todos nós, quer se trate de cada pessoa ou da sociedade em geral, precisam se preparar para a verdadeira catástrofe cenário, usando o tempo para estar pronto para mostrar e provar, por isso que a nossa criação, temos de nos permitir continuar a existir. Ou podemos simplesmente continuar a acreditar cegamente que esse desenvolvimento é impossível, e simplesmente deixar de manter uma conversa sobre este assunto.

No Entanto, independentemente do tipo físico perigo pode representar para nós сверхинтеллект, não se deve esquecer que para representar o perigo de ele ainda vai e político, mas também econômico. Se não encontrar uma forma de aumentar o nosso nível de vida, em última análise, apenas подпитаем o capitalismo é um trabalhador manual inteligência artificial, que servirá apenas um punhado de eleitos, com todos os meios de produção.

o Original deste artigo foi publicado no site theconversation.com Арендом Хинтзе (Arend Hintze), professor associado do departamento de biologia integrativa, ciências da computação e de engenharia da Universidade do estado de Michigan