A inteligência artificial não era tão inteligente como você e Илон de Máscaras de acha-lo

Em março de 2016 um algoritmo de computador AlphaGo empresa DeepMind foi capaz de triunfar sobre Se Седолем, naquele momento, o melhor jogador do complexo de lógica. Este evento tornou-se um daqueles momentos decisivos na história tecnológica da indústria, os quais, no seu tempo, e a vitória, o computador Deep Blue da IBM sobre o campeão mundial de xadrez Garry Каспаровым, e a vitória de um supercomputador Watson da mesma IBM no questionário para eruditos Jeopardy em 2011.

Mas, ainda assim, apesar de todas essas vitórias, por mais impressionante que seja, aqui estamos, em maior medida, trata de treinamento algoritmos e usar bruta poder de processamento do que a real inteligência artificial. Ex-professor de robótica do instituto de tecnologia de Massachusetts, Rodney Brooks, um dos fundadores da empresa iRobot, e, mais tarde, Rethink Robotics, diz que a aprendizagem do algoritmo de jogo no complexo estratégico do quebra – cabeça não é de inteligência. Pelo menos não é a mesma como nós a apresentamos para o homem.

O Especialista explica que não importa o quão forte AlphaGo nem mostrou-se quando executa um conjunto de tarefas a ele, na verdade, ele não é capaz de nenhum outro. Além do mais, ele está configurado de tal forma que pode jogar o jogo go é apenas por padrão o campo 19 x 19. Em entrevista ao TechCrunch Brooks disse, como recentemente tive a oportunidade de conversar com a equipe de DeepMind e descobrir uma coisa interessante. À pergunta sobre o que aconteceria, muda os organizadores da competição o tamanho da placa e aumentando-a até 29 x 29 de células, a equipe AlphaGo lhe disse, que mesmo fácil a alteração do campo de jogo resulta que "nós, chegou o fim".

"Eu acho que as pessoas vejam o quão bom o algoritmo de lidar com uma tarefa, e, aparentemente, imediatamente acreditam que ele é capaz de tão efetivamente executar outras. Mas o fato é que ele não pode", — comentou Brooks.

Resistente inteligência

Em maio deste ano, em entrevista Дэвину Колдвею no evento TechCrunch Disrupt Kasparov observou que o desenvolvimento de um computador, capaz de jogar xadrez, em nível mundial, é uma coisa, mas é outra nomear o computador limpo de inteligência artificial, assim como ele não é. É apenas uma máquina que joga todo o seu poder de computação para a solução do problema, com a qual ela estava acostumada a lidar melhor.

"No xadrez, as máquinas ganham devido à possibilidade de profunda computação cálculo. Eles podem tornar-se totalmente invencível quando tiver um banco de dados enorme, muito rápidos de hardware e mais логичных algoritmos. No entanto, eles não têm a compreensão. Eles não reconhecem estratégicas modelos. As máquinas não têm objetivo", — disse Kasparov.

Gil Pratt, gerente geral da Toyota Institute, do departamento da Toyota, motivador e de projectos relacionados com a inteligência artificial e a sua utilização em casa, robôs e veículos não tripulados, também participou em entrevista ao TechCrunch, no âmbito de atividades Robotics Session. Na sua opinião, o medo, o que ouvimos, a partir de uma ampla variedade de pessoas, incluindo Ilona uma Máscara, que recentemente havia chamado inteligência artificial "ameaça existencial para a humanidade", pode ser causada pela não mais do que aqueles антиутопичными descrições do mundo que nos oferece a ficção científica.

"o Nosso atual sistema de profundidade de aprendizado são bons na execução de suas tarefas na medida em que nós a eles próprios criaram. Mas, na verdade, eles são bastante узкоспециализированы e крошечны em seu âmbito. Então eu acho que é importante para cada vez que neste contexto de mencionar e o quão bons eles são, e o quanto eles realmente ineficaz. E então, como estão longe de nós a partir do momento em que esses sistemas podem começar a imaginar a ameaça, sobre a qual diz Илон de Máscaras e o resto", — comentou Pratt.

Brooks, por sua vez, no TechCrunch Robotics Session observou que, entre as pessoas em geral, há uma tendência em considerar que, se o algoritmo é capaz de lidar com a tarefa de "x-men", ele, aparentemente, tão inteligente como o homem.

"Eu acho que a razão pela qual as pessoas, incluindo Ilona Máscara, cometem esse erro, é o seguinte. Quando vemos uma pessoa muito bem справляющегося de atingir sua meta na frente dele tarefa, percebemos que ele possui alta competência no caso. Parece-me que o mesmo modelo, as pessoas tentam aplicar e à maquinaria de aprendizagem. E este é o principal erro", — diz Brooks.

O Chefe da empresa Facebook, Mark Zuckerberg realizou no domingo, transmissão ao vivo, durante o qual também fez críticas de comentários Ilona Máscara, chamando-os de "completamente irresponsável". De acordo com Zuckerberg, AI vai ser capaz de melhorar significativamente a nossa vida. Máscaras por sua vez, decidiu não отмалчиваться e respondeu Цукербергу, de que o "conhecimento limitado" de AI. O tema ainda não está fechada, e Máscaras prometeu um pouco mais tarde com mais detalhes responder aos ataques dos colegas no setor de ti.

A propósito, A Máscara não é o único que acredita que AI pode levar uma ameaça em potencial. O físico Stephen Hawking e o filósofo Nick Бостром também expressam a sua preocupação sobre o potencial de penetração de inteligência artificial no estilo de vida da humanidade. Mas, provavelmente, eles falam sobre mais генерализированном inteligência artificial. Sobre o que estudam nesses laboratórios, como o Facebook AI Research, DeepMind e Maluuba, que sobre mais узкоспециализированном AI, os primeiros rudimentos da qual podemos ver hoje.

Brooks também observa que muitos dos críticos da IA, mesmo não trabalhando na área, esugeriu que essas pessoas simplesmente não conseguem entender o quão complexo é a busca da solução de cada uma das tarefas nesta área.

"Na verdade, as pessoas que acreditam AI ameaça existencial, não é muito. Stephen Hawking, o astrofísico e astrônomo Martin rees... e mais algumas pessoas. A ironia é que a maioria deles integra uma característica – eles ainda não trabalham na área de inteligência artificial", — disse Brooks.

"Para aqueles de nós que trabalham com a AI, é bastante óbvio o quão difícil é atingir o funcionamento de algo no nível do produto acabado".

a ideia Errada AI

Parte do problema vem ainda do fato de que nós chamamos tudo isso de "inteligência artificial". A verdade é que esta "inteligência" não é como o intelecto humano, que, em manuais e dicionários léxicos, normalmente, é descrito como "a capacidade de aprender, compreender e приспосабливаемости a novas situações".

Pascal Kaufman, diretor geral Starmind, inicialização, oferecendo assistência a outras empresas na utilização coletiva do intelecto humano na busca de soluções para problemas na área de negócios, durante os últimos 15 anos estudando-me pela neurociência. O cérebro humano e o computador, observa Kaufman, funcionam de maneira diferente, e seria evidente o erro de compará-los.

"a Analogia com o cérebro funciona como um computador – é muito perigoso e vale a pena obstáculo ao progresso do desenvolvimento da IA", — diz Kaufman.

O Especialista também acredita que não продвинемся na compreensão da inteligência humana, se formos considerá-lo no plano tecnológico.

"É um equívoco pensar que os algoritmos funcionam como o cérebro humano. As pessoas simplesmente não gostam de algoritmos, e, portanto, eles pensam que o cérebro pode descrever com a sua ajuda. Eu acho que isso é totalmente falso", — adiciona Kaufman.

Se algo der errado

Há uma infinidade de exemplos, quando IA-algoritmos acabam por ser, de longe, não tão inteligente, como estamos acostumados a pensar nelas. E um dos, talvez, mais inglório pode servir como AI-algoritmo de Tay (Tay), criado pela equipe de desenvolvimento de inteligência artificial sistemas da Microsoft e foi lançado fora de controle no ano passado. Demorou menos de um dia, para transformar o bot em um verdadeiro racista. Especialistas dizem que isso pode acontecer com qualquer um AI-do sistema, quando lhe oferecem maus exemplos para seguir. No caso de Tay, ela está sob o efeito de racista e outros abusivo de sua morfologia lexical. E como ela foi programada para "formação" e "espelho de comportamento", logo que saiu de controle de pesquisadores.

No âmbito de um novo padrão adotado profissionais de pesquisa Корнеллского e Вайомингского universidades verificou-se que é muito fácil enganar os algoritmos, treinados para identificação de imagens digitais. Os especialistas descobriram que a imagem, que parecia como "скремблированная absurdo" para as pessoas, o algoritmo é determinado como a imagem de um diário de um objeto do tipo "ônibus escolar".

De Acordo com o artigo, publicado no MIT Tech Review e описывавшей este projeto, não até o fim, é compreensível que o algoritmo pode ser enganado da forma que fizeram os pesquisadores. O que consegui descobrir é que as pessoas aprenderam a reconhecer que, para eles, está – ou auto-aplicada uma imagem, ou uma espécie de estranha imagem. Algoritmos, por sua vez, analisa os pixels, mais fáceis de manipulação e engano.

Quanto ao auto-administrou o carro, aqui acontece tudo muito mais difícil. Existem algumas coisas que o homem compreende, quando se prepara para enfrentar determinadas situações. A máquina mesmo isso vai ser muito difícil. Em um artigo publicado em um dos blogs automotivos Rodney Бруксом em janeiro deste ano, estão alguns exemplos de tais situações, incluindo aquele em que descreve como o zangão carro se aproxima de sinais de trânsito "Pare", está perto da passagem de pedestres na cidade, no início do qual valem a pena e se comunicam adulto com a criança.

O Algoritmo, provavelmente, será configurado para aguardar a transição peões a atravessar a estrada. Mas que, se esses pedestres e em sua mente não foi atravessar a rua, porque eles estão esperando, digamos, um ônibus escolar? O motorista-um homem neste caso, poderia посигналить pedestres que em resposta poderia acenar-lhe com a mão, indicando que ele pode conduzir. O zangão mesmo veículo em tal situação, pode simplesmente ficar preso firmemente, indefinidamente à espera de transição de pessoas em toda a maneira, porque o algoritmo não tem conhecimento de tais humanos únicos sinais, escreve Brooks.

Cada um de tais exemplos nos mostra o quanto ainda precisamos avançar no desenvolvimento de algoritmos de inteligência artificial. Quanto será capaz de ter sucesso, os desenvolvedores генерализованного AI é outra questão. Existem coisas com as quais uma pessoa é capaz de facilmente lidar, no entanto, para o treinamento do algoritmo isso é uma verdadeira tortura. Por quê? Porque nós, seres humanos, não são limitados em nossa maneira de ensinar um conjunto de tarefas específicas.