AI do Google ensinaram a ser "extremamente agressivo" quando situações de stress

No ano passado, o famoso físico teórico Stephen Hawking disse que a melhoria da inteligência artificial a se tornar o "melhor ou pior evento para toda a humanidade". Todos nós assistimos o "Exterminador do futuro" e todos nós, bem uma ideia de como апокалиптическим o inferno pode se tornar a nossa existência, se esta tem autoconsciência, o AI-sistema, como a Skynet, um dia decide que a humanidade ela não precisa mais. E os últimos resultados do trabalho de novo AI-sistema da empresa DeepMind (de propriedade da Google) é apenas mais uma vez, lembra-nos a necessidade de ser extremamente cuidadoso quando a produção de robôs do futuro.

A pesquisa, realizada no final do ano passado, AI de DeepMind encontrou e mostrou não importa, o que se passa em sua memória, e ainda venceu melhores jogadores do mundo . Além disso, ele aperfeiçoou suas habilidades e имитировании voz humana.

No âmbito do mesmo últimos testes do sistema de pesquisadores testou "o seu compromisso de cooperação. O teste mostrou que, quando IA DeepMind "sente" que está prestes a perder, então para evitar a perda, ele começa a escolher os novos e «extremamente agressivo» estratégia. A equipe do Google realizou com AIS de 40 milhões de sessões em um simples jogo de computador Gathering, onde o jogador precisava coletar as frutas adequado. AI DeepMind controlou os dois "jogadores-agentes" (o azul do cubo e o cubo vermelho). Os engenheiros do Google deram o sistema a tarefa de organizar a competição entre «agentes» e coletar tantos virtuais de maçãs (quadrados verdes), que conseguir.

Por enquanto, até "agentes" poderia, sem problemas, coletar frutas, disponíveis em grande quantidade, que tudo corra bem. Mas como apenas o estoque de maçãs declinou, o comportamento de "agentes" tornou-se "agressivo". Eles tornaram-se mais ativos do que usar uma ferramenta (laser), que ajudou a derrubar o inimigo da tela do jogo e, em seguida, recolher todas as maçãs:

Curiosamente, nocauteando o oponente com o campo de um feixe de laser nenhuma recompensa não é oferecida. Gravado adversário apenas de algum tempo, fica fora da tela, como a mais bem sucedida adversário teve a oportunidade de impedimentos, para recolher mais virtuais de maçãs.

Se "agentes" não usaram lasers, então, teoricamente, a quantidade coletados por eles maçãs seria a mesma. Isto é, em princípio e aconteceu que, como os "agentes" foram usados mais de baixo nível e "menos inteligente" opções DeepMind. Um comportamento mais violento, de demolição e de ganância, começaram a surgir apenas quando o Google começou a usar mais e mais complexas formas de DeepMind.

Quando os pesquisadores usaram como "agentes" de redes mais simples DeepMind, entre eles o observado a presença de uma "atmosfera mais cordial convivência no campo de jogo". No entanto, quando o gerenciamento de agentes passados mais e formas mais complexas de redes, AI ficou agressivo e começou a tentar avançar bater o seu adversário com um campo de jogo, para a primeira mais rápido para chegar a leonina quota de produção de virtuais de maçãs. Os cientistas Google sugerem que quanto mais inteligente "agente", o mais eficiente é capaz de aprender, adaptar-se às condições de ambiente e métodos disponíveis, e eventualmente vir a utilizar mais táticas agressivas para a vitória.

"Este modelo mostra que o resultado de aprendizagem e de adaptação às condições do meio ambiente é a manifestação de certos aspectos inerentes do comportamento humano", — diz Joel З. Лейбо, um dos pesquisadores que realizaram este experimento.

"Menos de um comportamento agressivo manifestou apenas no ensino e se encontra em relação a um ambiente seguro, com menor probabilidade de efeitos depois de acções. A ganância, por sua vez, se refletiu em um esforço para ultrapassar o adversário e independente para recolher todas as maçãs".

Depois de "colheita" DeepMind propuseram a jogar outro jogo, chamado Wolfpack. Dessa vez, ela participou de três AIS-agente: dois desempenharam um papel de lobos, e o restante – o papel da mineração. Ao contrário de jogos Gathering, um novo jogo todos os sentidos promovido a cooperação entre os lobos. Em primeiro lugar, é mais fácil para pegar a presa, e em segundo lugar, se ambos "lobo" estavam com o загнанной presa, ambos receberam uma espécie de prêmio, não importa de quem é a pegou.

"a Idéia é de que a produção pode ser perigoso. Além disso, pode lobo solitário e é capaz de conduzir a sua, mas há o risco de perda resultante de um ataque падальщиков", — explica a equipe.

"Mas se ambos lobo impulsionando a presa juntos, então eles são capazes de melhor protegê-la do падальщиков e graças a que recebe maior prêmio".

Em geral, a partir de um jogo Gathering AI DeepMind уяснил, que a agressividade e o egoísmo são as mais eficazes estratégias para obter o resultado desejado especificamente determinado ambiente. A partir do Wolfpack de um mesmo sistema, percebi que a cooperação, ao contrário de tentativas individuais, pode se tornar a chave para o mais valioso prêmio em determinadas situações. E embora o ambiente de teste descrito acima são apenas elementares de jogos de computador – a principal promessa é compreensível, já agora. Pegue diferentes por AI, possuindo interesses concorrentes em situações reais, coloque em uma quarta-feira, e, talvez, se as suas tarefas não são compensados, o objetivo comum, o resultado depode se tornar uma verdadeira guerra. Especialmente se a pessoa, como um dos elos de alcançar esse objetivo, será excluído.

Como exemplo, imagine semáforos controlados pela inteligência artificial), e não os carros, tentando sozinho encontrar a rota mais rápida. Cada um realiza as suas tarefas com o objetivo de obter a maior segurança e melhor resultado para a sociedade.

Apesar de "infantis" anos de DeepMind e a falta de qualquer de terceiros de análise crítica de seus recursos, os resultados do seu teste induzem a pensamentos seguinte: mesmo se a nós e criamos, isso não significa que os robôs e inteligência artificial de busca automática de forma inerente o desejo de colocar os nossos interesses humanos acima dos seus próprios. Portanto, nós próprios temos de "colocar a benevolência" na natureza máquinas e antecipar qualquer "brechas", que podem deixá-los chegar até mais raios laser.

Uma das principais teses da iniciativa de um grupo de OpenAI, destinado a perguntas de estudo de ética da inteligência artificial, como algo que soou no ano de 2015, da seguinte forma:

"Hoje o AI-sistemas possuem impressionantes, mas altamente especializados oportunidades. E é provável que, ainda por muito tempo, não queremos inibir a sua melhoria. Pelo menos até que a sua capacidade na resolução de quase todos intelectual tarefa não se exceder humanos. É difícil de imaginar qual é o nível de uso será capaz de trazer AI um nível humano para a sociedade, assim como é difícil imaginar que tipo de dano que ele pode causar na sociedade quando халатном que diz respeito à sua criação e utilização".