L'intelligence artificielle est loin d'être intelligent que vous et Ylon Musk son pensez

En mars 2016 un algorithme informatique AlphaGo de la société DeepMind a pu remporter la victoire sur un Седолем, à ce moment le meilleur joueur du monde dans une logique. Cet événement est devenu l'un de ces moments marquants dans l'histoire de l'industrie technologique, on en son temps, de l'acier et la victoire de l'ordinateur Deep Blue d'IBM sur le champion du monde d'échecs Garry Kasparov, et la victoire d'un superordinateur Watson de la même IBM dans le questionnaire pour que les disciples de Jeopardy en 2011.

Mais tout de même, malgré ces victoires, aussi impressionnants soient-ils, ici, il est davantage agit de l'entraînement des algorithmes et de l'utilisation de la puissance de calcul brute, plutôt que sur la réalité de l'intelligence artificielle. Ancien professeur de robotique Mit Rodney Brooks, qui est l'un des fondateurs de la société iRobot, et plus tard Rethink Robotics, dit que l'apprentissage de l'algorithme de jeu dans le complexe stratégique de casse – tête- ce n'est pas l'intelligence. Au moins n'est pas ce que nous représentons pour l'homme.

L'Expert explique que, peu importe la force AlphaGo pas montré lors de l'exécution de l'ensemble avant de tâches, en fait, il n'est pas capable de rien d'autre. De plus, il est configuré de telle manière que peut jouer au go seulement sur le terrain de 19 x 19. Dans une interview au site TechCrunch Brooks a dit, comme l'a récemment eu l'occasion de discuter avec l'équipe de DeepMind et de trouver un détail intéressant. Sur la question de savoir ce qui serait arrivé, change les organisateurs de la taille de la planche siècle et l'élevant jusqu'au 29 x 29 des cellules, l'équipe de AlphaGo lui a avoué que même une légère modification de la zone de jeu aurait conduit à ce que «nous c'était la fin».

«Je pense que les gens voient comment bien l'algorithme vient à bout d'une tâche, et, apparemment, ici, pensent qu'il est capable aussi d'effectuer efficacement les autres. Mais le fait qu'il ne peut pas» — commenté Brooks.

Grossière de l'intelligence

En mai de cette année, dans une interview Дэвину Колдвею à un évènement TechCrunch Disrupt Kasparov a noté que le développement de l'ordinateur, capable de jouer aux échecs, au niveau mondial, est une chose, mais tout autre d'appeler un tel ordinateur propre de l'intelligence artificielle, car il n'est pas. C'est tout simplement une machine qui jette toute sa puissance de calcul sur la décision du problème avec lequel elle avait l'habitude de faire face le mieux.

«Dans les échecs de la machine gagnent en raison de fonctions de calcul de calcul. Ils peuvent être totalement invincible en présence d'une énorme base de données très rapide du matériel et des plus logiques et des algorithmes. Cependant, ils sont privés de la compréhension. Ils ne reconnaissent pas les modèles stratégiques. Les machines n'est pas le but», — dit Kasparov.

Gil Pratt, directeur général de Toyota Institute, département de la société Toyota, chargée des questions et des projets liés à l'intelligence artificielle et de son utilisation dans la maison de robots et de véhicules automobiles, également pris part à une entrevue, TechCrunch, dans le cadre des activités Robotics Session. Selon lui, la crainte que nous entendons par un large éventail de personnes, y compris Ilona Masque, a récemment utilisé l'intelligence artificielle «menace existentielle de l'humanité», peut-être ne s'explique pas plus que ceux антиутопичными les descriptions du monde, qui nous offre la science-fiction.

«Notre système actuel de profondeur de la formation sont bons dans l'accomplissement de leurs tâches qu'autant que nous-mêmes créé. Mais ils sont en fait assez sont plus utilitaires et крошечны ampleur. C'est pourquoi je pense qu'il est important à chaque fois dans le contexte de ce sujet de les mentionner et de combien ils sont bons et ils sont vraiment inefficaces. Et puis, comme nous sommes loin de ce moment, quand ces systèmes peuvent commencer à présenter cette menace, dont parle Ylon des Masques et des autres», - — commenté Pratt.

Brooks, à son tour, sur TechCrunch Robotics Session a souligné que parmi les gens en général on a tendance à croire que, si l'algorithme est capable de faire face à la tâche de «x», il est, apparemment, même intelligente que l'homme.

«Je pense que la raison pour laquelle les gens, y compris Ilona Masque, commettent cette erreur est la suivante. Quand nous voyons une personne très bien le chaperon d'atteindre son objectif en face de lui la tâche, nous nous rendons compte qu'il a une grande compétence dans cette affaire. Il me semble que le même modèle les gens essaient de l'appliquer et aux machines de la formation. Et c'est la principale erreur» — dit Brooks.

Le Chef de la société de Facebook, Mark Zuckerberg a tenu, dimanche dernier, en direct, au cours de laquelle est également critiqué le commentaire de Ilona le Masque, les qualifiant de «assez irresponsable». De l'avis de mark Zuckerberg, l'IA sera capable d'améliorer considérablement notre vie. Des masques à son tour, a décidé de ne pas отмалчиваться et a répondu Цукербергу que «la compréhension limitée de» l'IA. Le thème n'est pas encore fermée, et Musk a promis un peu plus tard plus en détail pour répondre à l'attaque de la part des collègues dans le secteur informatique.

À ce mot, Musk n'est pas le seul qui trouve que l'IA peut supporter une menace potentielle. Le physicien Stephen Hawking et le philosophe Nick Bostrom, aussi, d'exprimer sa préoccupation au sujet du potentiel de pénétration de l'intelligence artificielle dans le mode de vie de l'humanité. Mais, probablement, ils parlent plus генерализированном l'intelligence artificielle. Celui qui étudient dans ces laboratoires, comme Facebook AI Research, DeepMind et Maluuba que sur les plus узкоспециализированном de l'IA, les premiers germes de laquelle nous pouvons voir aujourd'hui.

Brooks note également que beaucoup de détracteurs de l'IA n'est même pas de travailler dans ce domaine, etsupposé que ces gens ne se rendent pas compte de la complexité parfois la recherche d'une solution à chaque tâche dans ce domaine.

«en fait, les gens qui considèrent que l'IA menace existentielle, n'est pas beaucoup. Stephen Hawking, astrophysicien britannique et astronome Martin Figure... et quelques autres personnes. L'ironie est que la plupart ont en commun une caractéristique – même, ils ne travaillent pas dans le domaine de l'intelligence artificielle» —, a déclaré Brooks.

Pour ceux d'entre nous qui travaillent avec l'IA, à l'évidence la complexité arrive à faire fonctionner quelque chose au niveau du produit fini».

la Fausse idée de l'IA

Une Partie du problème vient encore du fait que, nous appelons cela «l'intelligence artificielle». La vérité est que cette «intelligence» ne ressemble en rien à l'intelligence humaine, qui dans les annuaires et lexicales dictionnaires est généralement décrit comme «la capacité d'apprentissage, la compréhension et la приспосабливаемости à de nouvelles situations».

Pascal Kauffmann, directeur général de Starmind, start-up proposant de l'aide à d'autres entreprises dans l'utilisation collective de l'intelligence humaine dans la recherche de solutions aux problèmes dans le domaine des affaires, au cours des 15 dernières années, a étudié la neurobiologie. Le cerveau humain et l'ordinateur, les notes Kaufman, fonctionnent différemment, et il serait une erreur évidente les comparer.

«l'Analogie – le cerveau fonctionne comme un ordinateur très dangereux et coûte un obstacle au progrès du développement de l'IA, — Kaufman dit.

L'Expert estime également que nous n'avancerons dans la compréhension de l'intelligence humaine, si allons traiter dans le plan technologique.

«c'Est une erreur que les algorithmes fonctionnent comme le cerveau humain. Les gens sont tout simplement aime les algorithmes, et par conséquent, ils pensent que le cerveau peut décrire avec leur aide. Je crois que cela est tout simplement faux», — ajoute Kaufman.

Si quelque chose ne va pas

Il existe de nombreux exemples où les IA-algorithmes sont loin d'être aussi intelligents que nous sommes habitués à y réfléchir. Et d'une, peut-être, les plus бесславных peut servir IA-l'algorithme de la Tei (Tay), créé par l'équipe de développement de l'IA-systèmes de la société Microsoft et sorti sous le contrôle de l'an dernier. Il a fallu moins d'une journée, afin de transformer le bot dans le présent raciste. Les experts disent que cela peut arriver à n'importe quelle IA-système, quand elle offrent de mauvais exemples à suivre. Dans le cas de Tay, elle est tombée sous l'influence de racistes et d'autres injurieux et du vocabulaire de formes de mots. Et comme il a été programmé sur la «formation» et de «miroir du comportement», bientôt ingérable chercheurs.

Dans le cadre de la nouvelle norme adoptée par les experts de la recherche Cornell et Вайомингского universités, il a été constaté qu'il est très facile de tromper les algorithmes qualifiés sur l'identification de l'imagerie numérique. Les experts ont constaté que l'image qui ressemble à «скремблированная un non-sens» pour les gens, l'algorithme a été désigné comme l'image d'un quotidien de l'objet comme «bus scolaire».

Selon un article publié dans le MIT Tech Review et описывавшей ce projet, n'est pas tout à fait clair pourquoi l'algorithme peut tromper la façon dont l'ont fait les chercheurs. Qui a réussi à comprendre, c'est que les gens ont appris à reconnaître qu'en face d'eux se trouve soit autonome, une image, ou une drôle d'image. Les algorithmes de même, à son tour, et analysent les pixels, plus facile à la manipulation et la tromperie.

En ce Qui concerne les ballons de voitures, il s'avère beaucoup plus difficile. Il ya certaines choses que les gens comprennent quand se prépare à faire face à certaines situations. La machine à cela former sera très difficile. Dans un long article, publié dans l'une des automobiles les blogs de Rodney Brooks en janvier de cette année, sont quelques exemples de ces situations, y compris celle dans laquelle il explique comment un drone de la voiture se rapproche d'routier signe «Stop», situé à côté d'un passage clouté dans la ville, au début de laquelle sont et de communication, l'adulte avec l'enfant.

L'Algorithme, il sera probablement configuré pour attendre le passage des piétons sur la route. Mais que, si ces piétons et les pensées n'était pas à traverser la route, car ils sont debout et attendent, disons, un bus scolaire? Le conducteur-l'homme dans ce cas, pourrait посигналить les piétons, qui, en réponse pourriez signe de la main, en l'informant qu'il peut passer. Un drone de la même voiture dans une telle situation, il ne peut tout simplement coincé demeure sans cesse en attendant le passage de personnes à travers le chemin, parce que l'algorithme n'est pas a la compréhension de ces uniques humaines signaux, écrit Brooks.

Chacun de ces exemples nous montre à quel point il nous reste à progresser dans le développement d'algorithmes d'intelligence artificielle. Combien peuvent réussir les développeurs généralisée de l'IA, c'est une autre question. Il existe des choses dont l'homme est capable de facilement gérer, mais pour l'apprentissage de l'algorithme ce sera une véritable torture. Pourquoi? Parce que nous, les gens ne sont pas limités dans notre enseignement un certain nombre de tâches.