Como criam robô, que quer mudar o mundo?

Um cientista computacional Christoph Солдж tenta eliminar a necessidade de regras que controlam o comportamento dos robôs. Sua estratégia — dar-lhes um objetivo: fazer-nos mais poderosos. Christoph funciona no Game Innovation Lab na universidade de Nova york. Sasha Ibirapuitã entrevistou Солджа para Quanta Magazine, a partir do qual nós aprendemos que nós, talvez, não vale a pena tentar manter o fluxo irresistível da singularidade tecnológica.

As Famosas três leis da robótica de Isaac Asimov — restringir o comportamento dos andróides e de máquinas necessárias para garantir a segurança da humanidade — também é incompleta. Essas leis apareceram pela primeira vez na história Asimov, em 1942, e, em seguida, em obras clássicas como "Eu, robô" e que soam assim:

1. um Robô não pode causar dano a pessoa ou a sua omissão, para evitar o homem foi prejudicado.
2. um Robô deve obedecer às ordens, отдаваемым pessoas, se não houver contradizem a Primeira Lei.
3. o Robô deve proteger a sua existência, se essa proteção não é contraditório com a Primeira ou a Segunda Lei.

Claro, essas leis, você pode encontrar um conjunto de contradições e lacunas (o que, de fato, usou o próprio Asimov). Em nossa era atual do software avançado com maquinaria de aprendizagem e offline da robótica, a definição e a implementação de ferro de ética da inteligência artificial, tornou-se premente para tais organizações, como o Instituto de estudos da inteligência da máquina e OpenAI.

Christoph Солдж tomou uma abordagem diferente. Em vez de "cima para baixo" impor filosófico da definição de como deve ou não deve comportar-se de agentes artificiais, Солдж e seu colega Daniel Полани exploram o caminho de baixo para cima", ou "o que o robô deve fazer em primeiro lugar", como escreveu em seu artigo "a Extensão de direitos como a substituição, as três leis da robótica". "A extensão dos direitos", o conceito, nascida na junção da cibernética e da psicologia, descreve interna de motivação do agente a simultânea de resistência e de trabalho em condições de ambiente. "Como o corpo, ele quer sobreviver. Ele quer deixar sua marca no mundo", explica Солдж. O aspirador de pó Roomba, programado para procurar a estação de carregamento quando a carga da bateria, — é rudimentares a exemplo de "direitos estendidos para continuar a operar no mundo, ele deve receber a carga, e continuar a sua própria existência, ou seja, para sobreviver.

A Extensão de direitos pode soar como uma receita para obter o resultado, que têm medo de os defensores do seguro inteligência artificial como Nick Бострома: um poderoso sistema autônomo, preocupada apenas com a satisfação de seus próprios interesses e сходящей com a mente no processo. Mas Солдж que estuda o homem-máquina a interação social, a questão é: o que será, se o agente avançados também irá lidar com a extensão de direitos de outro? Precisa, para que o robô não queria apenas para se manter na condição de trabalho — é preciso, para que ele também gostaria de manter a sua humano parceiro".

Солдж e Полани perceberam que a teoria da informação oferece uma maneira de tornar isso mútua de extensão de matemática do banco, que tomará armas não-философствующий artificial agente. "Uma das desvantagens, as três leis da robótica é que eles são baseadas na linguagem, e a linguagem em alto grau ambíguo", diz Солдж. "Estamos tentando encontrar algo que realmente pode cumprir."

Alguns especialistas em tecnologia acreditam que a AI é grande, mesmo grave ameaça a vida das pessoas. E você?

Eu воздержусь. Ou seja, eu realmente acredito que, no momento, não há medo antes de robôs e da crescente influência AI. Mas, acho que, no curto prazo, nós, provavelmente, vamos mais preocupados com a possível mudança de postos de trabalho, o processo de tomada de decisão, a perda da democracia, a perda de privacidade. Não sei qual a probabilidade de surgimento incontrolável AI em breve. Mas, mesmo se a AI vai controlar o sistema de saúde e emitir receitas, vale a pena pensar sobre as implicações éticas de problemas no processo de trabalho.

de que forma o conceito de extensão de direitos de ajudar-nos a lidar com esses problemas?

Eu acho que a idéia de extensão dos direitos preenche a lacuna. Ela não vai dar o agente deixar o homem morrer, mas como só você é capaz de ficar nesse limiar, ela vai apoiar a intenção de criar mais oportunidades para a expressão de um homem e de influência no mundo. Em um dos livros de Asimov, os robôs simplesmente acabar coloquem todas as pessoas em recipientes seguros. Isso seria desejável. Se a nossa capacidade de influenciar o mundo vai continuar a melhorar, eu acho que seria muito mais interessante para alcançar o objetivo.

Você já testou suas idéias agentes virtuais em um jogo de ambiente. O que aconteceu?

O Agente, motivado próprios privilégios elevados, se desviar do projétil e não cairá na cova, em geral, evitar qualquer situação que pode levar à perda de mobilidade, morte ou danos portanto, para reduzir a sua операциональность. Ele apenas vai ficar.

Em conjunto com o jogador-um homem, que também é dotado de avançados, vimos que o robô irá manter a uma certa distância, para não impedir o movimento de uma pessoa. Ele não travá-lo, não se tornará de passagem, para que você não possa passar. Ele vai ficar tão perto de você, para ter a oportunidade de ajudar. Isso faz com que o comportamento, no qual ele pode ea iniciativa, e seguir para um estranho.

Por exemplo, nós criamos um cenário em que tivemos a laser barreira, perigoso para o homem, mas o mais seguro para o robô. Se um homem se neste jogo de se aproximando de lasers, o robô recebe mais incentivos para o bloqueio do laser. O incentivo é reforçada, quando uma pessoa se torna, logo antes de uma barreira, como se a intenção de a atravessá-la. E o robô realmente bloqueia o laser, tornando-se perante o homem.

Manifestados, se esses agentes, qualquer não-intencional, o comportamento é semelhante ao que emerge das três leis no livro de Asimov?

Primeiro, o comportamento foi bom. Por exemplo, um robô virtual interceptou adversários que tentaram matá-lo. De tempo em tempo, ele pudesse saltar sob a bala, se esta foi a única maneira de salvá-lo. Mas o que especialmente nos surpreendeu, desde o início, que ele também está com muito medo dos humanos.

A Razão para isso está relacionado com a sua "míope" o modelo: de fato, ele analisa a forma como a seqüência de procedimentos específicos de duas a três passos podem afetar o mundo, para você e para ele. Portanto, o primeiro passo nós tínhamos programado de que o jogador age de forma aleatória. Mas na prática, isso resultou em que o agente se referia ao homem uma espécie de психопату, que poderia a qualquer momento, por exemplo, atirar em um agente. Portanto, o agente representou muito e com muito cuidado para escolher a posição em que o homem não poderia matá-lo.

Precisamos corrigir isso, nós, portanto, tem chamado a suposição de uma relação de confiança. De fato, o companheiro, o agente age com base no pressuposto de que o homem vai escolher apenas aquelas atividades que não vão limitar os direitos estendidos a mais de um agente, talvez isso seja mais adequada para um companheiro de modelo.

Observamos também que, se você tivesse, digamos, 10 pontos de saúde, o companheiro não é particularmente preocupado se você perdeu oito ou nove desses pontos, ele poderia até mesmo atirar em você uma vez, apenas por diversão. E percebemos, então, que há uma lacuna entre o mundo em que vivemos, e o modelo em um jogo de computador. Como tem restrições de capacidade, causadas pela perda da saúde, o problema desapareceu. Também podia ser resolvido criando-se não a близорукую um modelo que poderia analisar o comportamento do outro par de passos para o futuro. Se o agente poderia olhar mais para o futuro, ele teria visto que, para ter mais pontos de saúde pode ser útil para futuros eventos.

Tendo em atenção que a alteração do número de pontos de saúde em nenhum impacto sobre os meus direitos estendidos, o agente decide: "eu Tiro nele, não tiro — qual é a diferença?". E, às vezes, atira. O que, claro, é um problema. Eu não quero aleatórios tiros dos jogadores. Nós adicionamos uma correcção para o virtual robô um pouco mais preocupado com o seu estado, do que sobre o seu.

Como você faz esses conceitos precisos?

Se considerar como agentes do sistema de controle, eles podem ser decompostos em informação componentes: no mundo algo que ocorrem de uma forma ou de outra lhe diz respeito. Falamos sobre a informação, não tanto sobre as coisas que você percebe, bem como sobre os impactos de qualquer natureza — isto pode ser a substância, algo протекающее entre o mundo e de você. Pode ser a temperatura ou de nutrientes em seu corpo. Qualquer coisa que atravessa a fronteira entre o mundo e o agente, que transporta a informação. Exatamente o mesmo agente pode influenciar o mundo de diferentes maneiras, também trazendo informações.

Pode-se considerar este fluxo como a largura de banda do canal, é um conceito da teoria da informação. Você pode ser amplos poderes, direitos estendidos, se você é capaz de tomar uma série de ações, que levam a diferentes resultados. Se algo der errado, você perderá seu mandato, porque a perda da capacidade corresponde a quantificáveis para a redução de largura de banda de um canal entre você e o meio ambiente. Esta é a idéia básica.

como muitos devem saber, o agente, para que a sua autoridade expandida agiu plenamente?

Os direitos Estendidos têm a vantagem é que elas podem ser utilizadas, mesmo quando você não possui um conhecimento completo. Agente realmente precisa de um modelo de como suas ações vão afetar o mundo, mas ele não precisa de um completo entendimento do mundo e de todas as suas sutilezas. Ao contrário de algumas abordagens que tentam simular todos no mundo, na medida do possível, no nosso caso, só precisa descobrir como suas ações afetam a sua mesma percepção. Não precisa de conhecer todas as coisas; é o agente que explora o mundo. Ele faz algo e tentando entender como suas ações afetam o mundo. O modelo está crescendo, e o agente de melhor entender, de onde se estendem os limites da sua autoridade.

Você testou em um ambiente virtual. Por que não no mundo real?

O Principal obstáculo dimensionamento deste modelo para colocá-lo no real do robô, é a complexidade do cálculo da largura de banda de um agente e de um homem tão rico ambiente, como um mundo real, deleitam-se para a frente. Todos esses processos ainda tem que se tornar eficaz. Eu sou otimista, mas até que esse problema permanece pura de computação. Por isso nós testamos o funcionamento do sistema em um jogo de computador, em formato simplificado.

Parece, a extensão de direitos e de oportunidades, de preferência, fará as nossas máquinas poderosas oficiais de cães.

Eu até conheço alguns робототехников, que, deliberadamente, modelam o comportamento de um companheiro com base em cães. Acho que, se os robôs irão se referir a nós como a nossos cães, nesse futurotodos nós somos capazes de viver.