Perigosa que a humanidade: por que precisamos de razoável inteligência artificial?

Quando Norbert Wiener, o pai da cibernética, escreveu seu livro "o uso Humano de seres humanos", em 1950, de tubo de vácuo ainda foram os principais blocos de apartamentos eletrônicos, e no trabalho, de fato, foi apenas alguns computadores. No entanto, ele imaginava o futuro que nós estamos vendo agora, com uma precisão sem precedentes, ошибившись apenas em pequenos detalhes.

Antes de qualquer outro filósofo de inteligência artificial, ele percebeu que IA, não será apenas o de imitar e de substituir — seres humanos em vários tipos de atividade intelectual, mas também vai mudar pessoas no processo. "Estamos apenas redemoinhos no rio para sempre água corrente", escreveu ele. "Nós não é algo que simplesmente vive, nós do modelo, que perpetuam a si mesmo".

Por Exemplo, quando você recebe uma infinidade de possibilidades tentadoras, estamos dispostos a pagar e receber custos de fazer negócios para o acesso a novas oportunidades. E muito em breve nós nos tornamos dependentes de novas ferramentas, perdemos a capacidade de existir sem eles. Opções tornam-se necessários.

Esta É uma história de evolução, e muitos capítulos de ela nos são bem conhecidos. A maioria dos mamíferos pode sintetizar a sua própria vitamina C, mas primatas, que se alimentam principalmente de frutas, perdeu a este uma capacidade interna. Самоповторяющиеся modelos, o que chamamos de pessoas, agora dependem de roupa, tratado de alimento, de vitaminas, de seringas, cartões de crédito, smartphones e da internet. E amanhã, se não hoje, da inteligência artificial.

Wiener previu alguns problemas com este estado de coisas, que outras versões anteriores otimistas IA em grande medida a perder de vista. A verdadeira ameaça que, segundo ele, era:

…é que tais máquinas, embora impotente por si só, podem ser uma só pessoa, ou bloquear seres humanos para aumentar o seu controle sobre o resto da raça, ou os líderes políticos podem tentar tomar o controle de sua população, usando e não máquinas, e métodos políticos, столье mesmo estreitas e indiferente ao homem, como se tivessem sido inventadas mecânico.

Obviamente, esses perigos são agora muito importantes.

NA MÍDIA, por exemplo, a inovação digital de áudio e vídeo permitem-nos a pagar um preço pequeno (nos olhos dos audiófilos e amantes do cinema) pela renúncia de formatos analógicos, e em troca receber extremamente simples — muito simples — método de reprodução de registos quase sem restrições.

Mas há um mundo oculto preço. O ministério da justiça Orwell, tornou-se uma possibilidade real. Técnicas de IA criar praticamente indistinguível de falsos "registros" tornam obsoletos ferramentas que usamos para investigações dos últimos 150 anos.

Resta-Nos simplesmente abandonar a breve era fotográficas de provas e voltar para o velho mundo, onde a memória de uma pessoa e a confiança foram o padrão-ouro. Ou podemos desenvolver novas técnicas de defesa e ataque na batalha pela verdade. Um dos exemplos emocionantes de última hora tornou-se o fato de que, para destruir a reputação de ser muito mais barato que essa mesma reputação conquistada e proteger. Wiener vi é um fenômeno muito difundido: "No longo prazo, não há nenhuma diferença entre a armar-se e armas do inimigo". A era da informação tornou-se também a era da desinformação.

O Que podemos fazer? A chave é a mesma fiscalização de Wiener sobre o fato de que "as máquinas" "desamparados por si mesmos". Nós criamos ferramentas, mas não colegas de trabalho, e a verdadeira ameaça é que não vemos a diferença.

Inteligência Artificial, em suas atuais manifestações se humano, a inteligência. Ele é muito sem a menor cerimônia, aproveita a todos os que criaram os povos criadores, e remove os padrões — incluindo os nossos mais secretos hábitos. Essas máquinas não têm metas ou estratégias, não são capazes de самокритике e inovação, eles apenas estudam a nossa base de dados, não tendo seus próprios pensamentos e objetivos.

Eles, como diz Wiener, impotentes, não no sentido de que eles закованы no circuito ou imobilizados, não, eles não são agentes — não têm a possibilidade de "agir contra a razão", como diz Kant teria.

No longo prazo "forte " AI", ou do total da inteligência artificial, é possível, em princípio, mas não desejável. Ainda mais limitado por AI, que é possível, na prática, hoje, não vai mal. Mas ele é uma ameaça — em parte porque pode ser erroneamente tomado por um forte AI.

o Quão forte é a inteligência artificial hoje?

A Diferença entre hoje e sistemas de ficção científica de sistemas, наводняющими a imaginação popular, ainda é enorme, embora muitas pessoas, tanto amadores como profissionais, tendem a subestimar. Vamos considerar o Watson da IBM, que poderia tornar-se digno de respeito em nosso tempo.

Este supercomputador foi o resultado é extremamente larga escala do processo de R&D (investigação e desenvolvimento), que tem sido aproveitada por muitas pessoas e desenvolvimentos de design de inteligência por muitos séculos, e ele usa milhares de vezes mais energia do que o cérebro de uma pessoa. Sua vitória no Jeopardy! foi um autêntico triunfo, que se tornou possível graças a uma формульным restrições de regras de Jeopardy!, mas para que ele possa participar, mesmo que essas regras foram revistos. Teve um pouco de abandonar a versatilidade e adicionar a humanidade, aconteceu o show.

Watson é uma má companhia, apesar de publicidade enganosa, da IBM, que promete falar de banda AI no обем nível, e a transformação de Watson plausível multifacetado do agente seria semelhantea transformação da calculadora em Watson. Watson pode ser uma boa computing estojo para tal agente, mas, sim, o cerebelo ou миндалиной, e não a mente — na melhor das hipóteses, o subsistema de forças especiais, que executa a função de apoio, mas de perto e não de um sistema para o planejamento e para a formulação de objectivos de acordo com uma conversação de experiência.

Sim, e por que nós queríamos criar a mente e criativo agente de Watson? Talvez a brilhante idéia de Turing — o famoso teste de Turing — virar-nos na armadilha: nós tornou-se obcecado com a criação de, pelo menos, a ilusão de uma pessoa real, sentado diante de uma tela, ignorando o "sinistro vale".

O Perigo é que, desde então, como Turing apresentou a sua tarefa — o que foi, em primeiro lugar, a tarefa de enganar os juízes criadores AI tentaram executar, usando o engraçados гуманоидных de bonecas, "cartoon" de versões, que fascinam e обезоружат os não iniciados. ELIZA Joseph Вейзенбаума, o primeiro чатбот, foi um exemplo brilhante para criar essa ilusão, e é muito simples de um algoritmo que poderia convencer as pessoas de que eles levam sincere e sinceras conversas com outras pessoas.

O обеспокоила a facilidade com a qual as pessoas estão dispostas a acreditar. E se tem algo e entender anual de competições passo a passo limitado o teste de Turing o prêmio Лебнера, é o fato de que mesmo as pessoas mais inteligentes, que não são competentes em informática, programação, facilmente atualizados em estes truques simples.

A Atitude das pessoas na área de IA estes métodos difere da condenação até a promoção, e o consenso é que todos esses artifícios não muito profundamente, mas podem ser úteis. Mudança na relação, o que seria muito útil, é o sincero reconhecimento de que разукрашенные em bonecos de andróides é propaganda enganosa, que é o de julgar, mas não é incentivada.

Como conseguir isso? Uma vez que entendemos que as pessoas começam a tomar decisões de vida e morte, seguindo o "conselho" de sistemas de IA, as operações internas que praticamente insondável, veremos uma boa desculpa para aqueles que incentiva as pessoas a confiar em tais sistemas, começar a contar sobre as regras da moralidade e da lei.

O Sistema de inteligência artificial — ferramentas muito poderosas. Tão poderosos que até mesmo os especialistas há uma boa razão para não confiar em seu próprio julgamento, quando há um "julgamento", apresentado por essas ferramentas. Mas se esses usuários de ferramentas vão beneficiar, financeira ou outra, a partir da popularização dessas ferramentas, elas devem certificar-se de que eles sabem como fazer isso com toda a quota de responsabilidade, para o máximo controle e uma justificação.

O Licenciamento e aprovação de ação operadores de tais sistemas, assim como nós лицензируем farmacêuticos, operadores de guindastes e de outros profissionais, os erros e decisões erradas que podem ter consequências graves — pode, com o apoio das empresas de seguros e outras organizações, obrigar os criadores de sistemas de IA ir um caminho longo, catando as fraquezas e as falhas de seus produtos, bem como ensinar a quem vai trabalhar com eles.

Você Pode imaginar uma espécie de reverso do teste de Turing, no qual o objecto de avaliação, será o juiz; enquanto não encontrar a fraqueza, a violação dos limites, falhas no sistema, licenças, ele não receberá. Para obter o certificado do tal juiz precisará de um aprendizado sério. O desejo de atribuir um objeto humano a capacidade de pensar, como fazemos normalmente, o encontro com razoável agente, muito e muito, muito forte.

Na realidade, a capacidade de resistir a vontade de ver algo очеловеченном de uma pessoa é uma coisa estranha. Muitas pessoas encontraram iria cuidar de tal talento duvidoso, porque até mesmo os mais pragmáticos, os usuários do sistema periodicamente e pertencem aos seus instrumentos "amigável".

Não importa o quão cuidadosamente designers de inteligência artificial serão eliminar falsos "humanos" notas em seus produtos, devemos esperar o florescimento de atalhos, desvios e tolerâncias de distorção real "compreensão" como os sistemas e seus operadores. Assim como na tv anunciam medicamentos com uma longa lista de efeitos colaterais ou álcool, o que amortece o rolo de abundância de letras pequenas, com todos os previstos em lei, avisos, do mesmo modo, os desenvolvedores de inteligência artificial vão cumprir a lei, mas изощряться em alertas.

Por que temos uma inteligência artificial?

Não precisamos artificiais consciente agentes. Tem o peso natural conscientes de agentes, que são suficientes para realizar qualquer tarefa, destinados a profissionais e preferenciais лиц. precisamos de ferramentas inteligentes. Ferramentas não têm direitos e não deve ter sentimentos, que você pode tocar, ou que poderá "abusar".

Uma das razões para não fazer artificiais consciente de agentes é que embora eles podem se tornar independentes (e, em princípio, eles podem ser tão auto-suficientes, самоулучшающимися ou самосозидательными, como qualquer pessoa), que não vale a pena—, sem autorização especial — dividir com os nossos naturais consciente agentes nossa vulnerabilidade ou de nossa mortalidade.

Daniel Деннетт, professor de filosofia da Universidade de Tufts, certa vez, colocou os alunos para a tarefa em um seminário sobre as agentes e a autonomia: me dê especificações de um robô capaz de assinar um contrato com você — não o substituto, que é propriedade de outro homem, e por si mesmo. Não é uma questão de entender as razões ou manipulação de caneta no papel, mas, sim, a posse e o homenageado de posse de um estatuto legal e moralresponsabilidade. As crianças não podem assinar tais contratos, bem como de deficiência, o estatuto jurídico que obriga o ser sob a tutela e impõe a responsabilidade pelos cuidadores.

O Problema robôs, o que poderia desejar obter tal sublime do estado, que, como super-homem, eles são muito vulneráveis, para fazer tais declarações. Se eles se recusam, o que será? Qual será a punição para a violação de promessas? Eles fecharão na gaiola ou desmontam? Prisão para a inteligência artificial não é inconveniente, se estamos apenas no primeiro não carregamos a sede de liberdade, o que não pode ser ignorado ou desativado pelo AI. Desmontagem AI não matassem a informação que é armazenada no disco e no software.

A Facilidade de gravação digital e transmissão de dados — um avanço que permitiu que o software e os dados de obter, de fato, a imortalidade faz robôs invulneráveis. Se isso não parece óbvio, pense em como seria diferente a moral do povo, se pudéssemos fazer "backups" de pessoas a cada semana. Salto da ponte, sem goma no domingo, depois de sexta-feira de cópias pode ser irresponsável a solução, então, é possível ver o registro de sua morte prematura de mais tarde.

É por isso que nós criamos não é consciente — gostaria de criar — гуманоидных agentes, mas sim de um tipo completamente novo de criaturas, alguns os oráculos, sem consciência, sem medo da morte, sem desviar o amor e o ódio, sem personalidade: um espelho da verdade, que quase certamente será infectado humana mentira.

O uso Humano de seres humanos está a mudar mais uma vez para sempre, mas se nós vamos assumir a responsabilidade de nossa trajetória de evolução, podemos evitar perigos desnecessários.

Não concorda? Conte-me a sua opinião .