Os robôs assassinos? Fique, mesmo os bons, os robôs são imprevisíveis antes da compra

Os Líderes de mais de uma centena de empresas líderes mundiais no campo da inteligência artificial muito preocupado com o desenvolvimento de "robôs assassinos". Em uma carta aberta das nações UNIDAS estes líderes empresariais, incluindo Ilona Máscara de Tesla e fundadores гугловской DeepMind – advertiram que o uso de tecnologias autônomo de armas pode ser tomado por terroristas e деспотами, ou em um grau ou outro exposta rachaduras.

Mas a verdadeira ameaça muito mais grave – e não é apenas em humanos, de má conduta, mas em instruções de máquina. Estudo de sistemas complexos mostra que eles podem se comportar muito mais imprevisível, o que pode ser inferido a partir da soma de ações individuais. Por um lado, isso significa que a sociedade humana pode se comportar de uma maneira totalmente diferente do que você poderia esperar, ao estudar o comportamento dos indivíduos. Por outro lado, isso também se aplica à tecnologia. Mesmo ecossistema simples programas de inteligência artificial – o que chamamos de obtusos, bons bots – podem surpreender-nos. Mesmo separados eles podem se comportar кошмарно.

Os elementos Individuais que compõem a sistemas complexos, tais como os econômicos, os mercados ou global de tempo, tendem a não interagir simples, de forma linear. Isso faz com que esses sistemas são muito difíceis para a modelagem e compreensão. Por exemplo, mesmo depois de muitos anos de pesquisa climática não é possível prever o comportamento a longo prazo de tempo. Estes sistemas são tão sensíveis às menores mudanças, quanto взрывоопасно eles reagem. É muito difícil saber o estado exato de tal sistema, em um determinado momento. Tudo isso faz com que esses sistemas intrinsecamente imprevisível.

Todos estes princípios se aplicam a grandes grupos de pessoas agindo em seu próprio caminho, seja ele humano de uma sociedade ou de um grupo de robôs com inteligência artificial. Recentemente, os cientistas estudaram um dos tipos de sistema complexo, em que bons bots foram usados para a edição automática de artigos na Wikipedia. Estes são os diferentes bots desenvolvidos, escritos e usados confiáveis editores da Wikipédia, e a sua base de software com código aberto e está disponível para todos. Separadamente, eles têm o objetivo de melhorar a enciclopédia. No entanto, o seu comportamento coletivo foi surpreendentemente ineficaz.

A base do funcionamento desses robôs com a Wikipédia se encontram bem estabelecidas regras e condicionamentos, mas uma vez que o web site não do sistema de controle central, não há uma coordenação eficaz entre as pessoas, os gestores de diferentes bots. Nos resultados trazidos à luz um par de bots, que em poucos anos desfez as alterações uns dos outros e ninguém percebeu. E, é claro, porque esses bots não aprendem, eles também não notaram.

Estes robôs são projetados para acelerar o processo de edição. Mas as pequenas diferenças na concepção de bots ou entre as pessoas que os usam podem levar a uma massa de desperdício de recursos em curso uma "guerra de edição", o que seria resolvido muito mais rápido com a ajuda de editores.

Os Pesquisadores também descobriram que os bots se comportaram de forma diferente em diferentes versões de idioma do Wikipedia. As regras de aparentemente quase idênticos, os objetivos são idênticos, tecnologia similar. Mas немецкоязычной Wikipédia cooperação bots foi muito mais eficiente e produtiva, o que, por exemplo, em português. Isto pode ser explicado por diferenças entre os editores-pessoas que dirigiam esses bots em diferentes ambientes.

Exponencial confusão

Bots com a Wikipédia não possuem ampla autonomia e o sistema já não funciona em conformidade com os objectivos individuais de bots. Mas Wikimedia Foundation planeja usar por AI, que vão dar mais autonomia a esses bots. E isso, provavelmente, vai levar a um comportamento inesperado.

Um Bom exemplo do que pode acontecer, demonstraram bots criados para falar com as pessoas, quando são levados a se comunicar entre si. Já não estamos surpresos com as respostas pessoais dos assistentes como Siri. Mas levá-los a se comunicar entre si e eles rapidamente começam a se comportar de forma inesperada, argumentar e até mesmo a insultar uns aos outros.

Quanto mais o sistema se torna mais autônomo torna-se cada bot, mais complexa e imprevisível será o comportamento futuro deste sistema. A wikipédia é um exemplo de trabalho de um grande número relativamente simples de bots. Exemplo com o papo-bots é um exemplo de um pequeno número relativamente complexas e criativas bots – em ambos os casos, inesperadas ocorrerem conflitos. A complexidade e, portanto, a imprevisibilidade crescem exponencialmente à medida que adiciona um sistema de individualidade. Portanto, no futuro, quando aparecem em grande quantidade muito difíceis de robôs, a imprevisibilidade-los vai além da nossa imaginação.

Полыхающее loucura

Самоуправляемы carros, por exemplo, a promessa de realizar um grande avanço na eficácia e na segurança do trânsito. Mas nós ainda não sabemos o que acontece quando temos um grande selvagem que o sistema está totalmente autônomos de veículos. Eles podem se comportar de maneiras diferentes, mesmo dentro de uma pequena frota individuais de carros em um ambiente controlado. E ainda mais um comportamento imprevisível pode manifestar-se, quando autogestão carros, "treinado" por pessoas diferentes, em lugares diferentes, começam a interagir entre si.

As Pessoas podem se adaptar às novas regras e acordos, de forma relativamente rápida, mas com a dificuldade de se alternam entre os sistemas.Artificial agentes pode ser ainda mais difícil. Por exemplo, se "treinado na Alemanha, o" carro vai viajar, por exemplo, na Itália, não sabemos como ele vai dominar não escritas acordos culturais, o que é seguido por muitos outros "treinados na Itália" de carros. Algo comum uma espécie de cruzamento cruzamento pode tornar-se fatalmente arriscado, porque nós simplesmente não sabemos, se a máquina de interagir como o esperado, ou vai se comportar de forma imprevisível.

Agora pense sobre robôs-assassinos, que perturbam a Máscara e o de seus colegas. Um robô assassino pode ser muito perigoso nas mãos erradas. E o sistema imprevisíveis robôs assassinos? Pense por si mesmo.