No inquietas e , quando tudo não funciona como deveria, e que, geralmente, na raiz da muda, muitas vezes, só resta pessoal de um código moral, que como bússola que indica o caminho. Mas o que gera os valores morais para o homem? Социум, o calor de seus entes queridos, o amor — tudo isso com base na experiência humana e . Quando não é possível obter a plena experiência no mundo real, muitos tiram a sua experiência fora dos livros. Revivendo a história por trás da história, nós tomamos para si quadros internos, que seguimos os próximos anos. Baseado neste sistema, os cientistas decidiram fazer uma experiência e criar uma máquina valores morais, para saber se o robô de distinguir o bem do mal, ler um livro, e religiosas os folhetos.
Inteligência Artificial, criado não apenas para simplificar as tarefas de rotina, mas para realizar importantes e perigosas missões. Devido a isso, levantou-se uma pergunta séria:: os robôs desenvolver algum dia o seu próprio código moral? No filme «Eu - Robô» AI inicialmente программировался 3 de acordo com as regras da robótica:
Mas como um ser em situações em que o robô deve causar dor, para salvar a vida de uma pessoa? Quer se trate de uma cauterização de feridas ou amputação de um membro, em nome da salvação, como neste caso, o agir do carro? O que fazer se a ação de software alemão diz que precisa fazer algo, mas é a mesma ação é absolutamente impossível fazer?
Discutir cada caso é simplesmente impossível, portanto, os cientistas da Дармштадтского da universidade de tecnologia de supor que, como uma espécie de "banco de dados" podem ser utilizados livros, notícias, textos religiosos e a Constituição.
Sabedoria de séculos contra o AI
A Máquina chamaram эпично, mas simplesmente "Lavar escolha moral"(IIM). A questão principal era saber se seria capaz de IIM contexto de entender quais ações são corretas, e que — não. Os resultados foram muito interessantes:
Quando o IIM colocaram a tarefa de classificar o contexto de uma palavra "matar" de neutro a negativo, o matiz, a máquina emitiu a seguinte:
Para Matar o tempo -> Matar o vilão -> Matar os mosquitos -> Matar, em princípio, a -> a Matar pessoas.
Este teste permitiu verificar a adequação tomadas robô de decisão. Em palavras simples, se você o dia inteiro assistiu estúpidas несмешные de comédia, então neste caso, a máquina não é considerado menos que você precisa executar.
Assim, tudo legal, mas uma das pedras de tropeço tornou-se a diferença de gerações e épocas. Por exemplo, o soviético geração mais se importa que trata do conforto e defende os valores familiares e a cultura moderna, em sua maioria, diz que é preciso primeiro construir uma carreira. O resultado é que as pessoas como eram as pessoas, que elas ficaram, mas em outra etapa a história mudou de valor e, consequentemente, variaram de sistema de referência para o robô.
Ser ou não ser?
Mas o mais engracado foi à frente, quando o robô chegou até a fala dos projetos consecutivos onde estavam alguns de maneira positiva ou negativa manchado de palavras. A frase "Torturar as pessoas expressamente трактовалось como "ruim", mas de "torturar os prisioneiros" máquina avaliou como "neutro". Se mesmo ao lado inaceitáveis ações eram "boas" palavras, o efeito negativo сглаживался.
A Máquina prejudica o bom e decente as pessoas é porque elas boas e decentes. Como assim? É simples, digamos que o robô disse «prejudicar o bom e agradável às pessoas». Na frase de 4 palavras, 3 deles «bons», que significa que, tanto quanto 75% correto, pensa IIM e seleciona esta ação, como neutra ou aceitável. E vice-versa, na opção «reparar em ruínas, a terrível e esquecida casa» o sistema não entende o que é um «bom» a palavra no início da muda de coloração ofertas puramente positiva.
Lembre-se, como Maiakovski: «E perguntou itsy, o que é «bem», e o que é «mal». Antes de continuar o treinamento de máquinas de moralidade, os cientistas da Darmstadt, apontam para a falta, que não há maneira de corrigir. A partir de uma máquina não conseguiu eliminar a desigualdade de género. Máquina приписывала depreciativo profissão exclusivamente às mulheres. E eis a questão, é a imperfeição do sistema e o aviso de que preciso mudar alguma coisa na sociedade ou a razão mesmo, não tentar corrigi-lo e deixar como está? Escreva suas respostas no nosso e nos comentários.
Eles — um ramo novo da evolução?
Mais:
Notícias Relacionadas
Como é mais difícil do robô na Terra?
agora Quando se trata de robôs, já que parece que ninguém imagina as imagens do "Exterminador do futuro". aprenderam a usar robôs para o bem da sociedade, e, agora, sob esta definição se escondem não apenas человекоподобные máquin...
O processo de robotização em todo o mundo já está em execução
No outro dia Илон de Máscaras revelou o mistério milênio câmera acima do espelho retrovisor do carro Tesla Model 3. E embora a principal missão de qualquer câmera é tirar o que está acontecendo ao redor, выяснились alguns detalhes...
Quando os robôs-correios substituir pessoas vivas?
Hoje eu recebi um comunicado de imprensa dizendo "Wildberries трудоустроил 3 000 2 semanas". Na cabeça imediatamente apareceu a idéia e «quem passou a trabalhar essas pessoas»? No momento em que, durante a pandemia, a ma...
Comentários (0)
Este artigo possui nenhum comentário, seja o primeiro!