Por que os cientistas não devem confiar na IA em questões de descobertas científicas, pelo menos, agora

Vivemos em um século de ouro dados científicos, cercando-se enormes estoques de informação genética, imagens médicas e dados de observações astronômicas. A atual capacidade de algoritmos de aprendizado de máquina permitem a inteligência artificial, o mais rapidamente possível e, ao mesmo tempo, com muito cuidado para estudar estes dados, muitas vezes, levantando assim a porta a, potencialmente, novas descobertas científicas. No entanto, não devemos confiar cegamente com os resultados da pesquisa realizada por AI, acredita científico especialista da Universidade de Rice, Женевера Allen. Pelo menos, não quando o nível atual de desenvolvimento desta tecnologia. Segundo o académico, o problema reside no fato de que os atuais sistemas de IA não têm a capacidade de avaliação crítica dos resultados de seu trabalho.

De acordo com Allen, o AI-sistemas que utilizam técnicas de aprendizado de máquina, ou seja, quando a aprendizagem ocorre no processo de aplicação de soluções de conjunto de tarefas semelhantes, e não apenas com a introdução e seguindo as novas regras e instruções, você pode confiar, com a adopção de algumas soluções. Mais especificamente, para a AI é perfeitamente possível impor suas tarefas na resolução de problemas em áreas onde o resultado final pode ser facilmente verificado e analisado pelo próprio homem. Como exemplo pode-se tomar, digamos, contando o número de crateras na Lua ou previsão repetidos tremores secundários após o terremoto.

No Entanto, a precisão e a eficiência são mais complexos algoritmos que são utilizados para a análise são muito grandes conjuntos de dados para a pesquisa e a definição anteriormente fatores desconhecidos ou inter-relações entre as várias funções de "testar é muito mais difícil", diz Allen. Por conseguinte, a impossibilidade de verificação de dados, selecionados de tais algoritmos, pode levar ao equivocado científico conclusões.

Tomemos, por exemplo, precisas de medicina, quando para o desenvolvimento de tratamentos eficazes, os profissionais passam a análise de metadados pacientes, tentando encontrar a certos grupos de pessoas com semelhantes características genéticas. Alguns AI-programas destinados a "просева" dados genéticos, realmente mostram sua eficácia, com sucesso, identificando os grupos de pacientes com a mesma predisposição, por exemplo, ao desenvolvimento de câncer de mama. No entanto, eles são completamente ineficazes em matéria de definição de outros tipos de câncer, como de cólon. Cada algoritmo realiza uma análise de dados à sua maneira, portanto, ao combinar os resultados pode muitas vezes ocorrer o conflito na classificação da amostra de pacientes. É a sua vez, faz com que cientistas a pensar que IA acabar confiar.

Essas diferenças ocorrem devido ao fato de que os algoritmos de mineração de dados são projetados para obedecer prometido estes algoritmos instruções, que não deixam espaço para a indecisão, a incerteza, explica Allen.

"Se você colocar a tarefa de um algoritmo de clustering para encontrar tais grupos em seu banco de dados, então ele executa a tarefa e diz que encontrou vários grupos de parâmetros definidos. Diga-se encontrar três grupos, ele vai encontrar três. Solicite o encontrar de quatro, ele vai encontrar quatro", — comenta Allen.

"Na verdade, a verdadeira eficácia de tal AI será exibido quando o programa é capaz de responder mais ou menos assim: "Eu realmente acredito que este é o grupo de pacientes adequado sob a correta classificação, no entanto, no caso dessas pessoas, que eu também testei e comparei, eu não tenho certeza".

Os Cientistas não gosta de incerteza. No entanto, os métodos tradicionais de determinação das incertezas de medição desenvolvidos para aqueles casos em que é necessário realizar a análise de dados, que foram especialmente selecionados para a avaliação de uma determinada hipótese. O programa IA para a mineração de dados funcionam de modo diferente. Estes programas não são movidos por algum tipo de orientador da idéia e simplesmente passam a análise de conjuntos de dados coletados sem qualquer dada uma finalidade específica. Portanto, agora, muitos pesquisadores da área de IA, incluindo o próprio Allen, estão envolvidos no desenvolvimento de novos protocolos, que permitem o AI-sistemas de uma nova geração de avaliar a precisão e a reprodutibilidade de suas descobertas.

O Pesquisador explica que um dos novos métodos de profunda análise será baseada na концепте de re-amostragem. Por exemplo, se o AI-sistema supostamente fará uma descoberta importante, por exemplo, determinar o grupo clinicamente importantes para o estudo de pacientes, esta abertura deve ser apresentada e em outros bancos de dados. Criar novos e grandes conjuntos de dados para verificar se a amostragem AI é muito caro para os cientistas. Portanto, de acordo com Allan, você pode usar a abordagem que será utilizado já está disponível o conjunto de dados, informações que serão aleatoriamente fundir-se, portanto, para que isso imitado completamente novo banco de dados". E se você, vez por vez, IA ser capaz de identificar características que permitem realizar a classificação desejada, "então, em tal caso, pode-se considerar que o que você tem em mãos apareceu realmente real" descoberta", acrescenta Allan.

Assine nosso , para ser informado sobre os últimos acontecimentos do mundo da ciência e da tecnologia.