De quoi a peur le développeur lui-même l'IA dans sa création

Comme des personnes impliquées dans la recherche de l'intelligence artificielle, j'ai souvent été confronté à l'opinion que beaucoup de gens ont peur de l'IA et de ce qu'il peut se transformer. En fait il n'est pas étonnant, vu la position de l'histoire de l'humanité, en accordant une attention à ce que пичкает nous l'industrie du divertissement, que les gens peuvent avoir peur de tas de cybernétique de l'insurrection, qui fera vivre nous isolés sur les territoires, et d'autres de la transformer en une «Матрицеподобный» vues humaines, et des piles.

Et pourtant, pour moi, en regardant toutes les évolutionnistes et les modèles informatiques que j'utilise dans le développement de l'IA, il est difficile de penser à ce que mes inoffensifs, propre comme une larme de bébé de la création sur l'écran de mon ordinateur une fois, peuvent se transformer en monstres futuriste антиутопии. Si le fait de me nommer «le destructeur des mondes», comme un jour, s'est excusé et a dit Oppenheimer, après avoir surmonté le programme de création d'une bombe nucléaire?

J'aurais pu prendre une telle gloire, et peut-critique de mon travail encore raison? Peut, j'ai vraiment le temps de s'arrêter à éviter les questions sur les craintes à l'égard de l'intelligence artificielle sont de moi-même comme un expert dans le domaine de l'IA?

la Peur d'imprévisibilité

L'Ordinateur HAL 9000, qui est devenu un rêve scientifique de science-fiction Arthur c. Clarke et incarné dans la vie de cinéaste Stanley Kubrick dans sa bande de «l'odyssée de l'espace 2001», est un excellent exemple d'un système qui a échoué en raison de circonstances imprévues.

Dans de nombreux systèmes complexes – le Titanic, l'navette spatiale de la NASA et de la centrale nucléaire de Tchernobyl – les ingénieurs devaient fusionner entre une multitude de composants. Peut-être, les architectes de ces systèmes était bien connu que chaque élément fonctionne séparément, mais ils ne sont pas bien compris, comme tous ces composants sont travailler ensemble.

Le Résultat est un système qui jamais la fin n'ont pas été comprises par leurs créateurs, et a conduit à la célèbre conséquences. Dans tous les cas le navire a coulé, deux de la navette a explosé, et presque toute l'Europe et une partie de l'Asie sont confrontés à un problème de contamination – ensemble relativement petits problèmes, mais, par hasard, se sont produites simultanément, ont créé un effet.

Je ne peux pas imaginer comment nous, les créateurs de l'IA, nous pouvons arriver à des résultats similaires. Nous prenons les derniers développements et de la recherche dans когнивистике (la science de la pensée, — env. ndlr), le traduisons dans les algorithmes et ajouter le tout dans le système existant. Nous essayons de développer l'IA sans la compréhension de leur propre intelligence et de la conscience.

De Tels systèmes, comme Watson d'IBM ou Alpha de Google, constituent un réseau de neurones artificiels, impressionnantes de calcul réduite et capables de gérer vraiment des tâches complexes. Mais jusqu'à ce que la seule chose qu'advient-il une erreur dans leur travail, sera le résultat d'une perte dans le de la un jeu «Jeopardy!» ou la perte de la possibilité de gagner le prochain le meilleur dans le monde d'un joueur à un poste de travail logique jeu de go.

Ces effets ne portent pas de mondial pour la nature. En fait la pire chose qui peut arriver à des gens dans ce cas-là, c'est quelqu'un qui va perdre une certaine somme d'argent sur les paris.

Cependant l'architecture de l'IA est de plus en plus difficile, et les processus de l'ordinateur — de plus en plus vite. Les capacités de l'IA avec le temps ne feront qu'augmenter. Et déjà, cela nous conduira à ce que nous commençons à imposer à l'ai de plus en plus de responsabilité, même en dépit des risques croissants d'urgence.

Nous sommes conscients que «les erreurs font partie de la nature humaine», c'est pourquoi il nous sera tout simplement physiquement impossible de créer vraiment sûre de tout le système.

la Peur d'une mauvaise utilisation

Je n'étais pas très inquiète des effets imprévisibles dans le travail de l'IA, qui, je le conçois, en utilisant une approche dite нейроэволюции. Je crée des environnements virtuels et заселяю numériques des êtres, leur «cerveau» de l'équipe de la résolution des problèmes d'une complexité croissante.

Avec le temps, l'efficacité de la solution des tâches de ces êtres augmente, évolue. Ceux qui gère les tâches de mieux, toutes les prennent pour des reproductions, en créant une base de données d'une nouvelle génération. À travers de nombreuses générations de ces numériques de création développent les capacités cognitives.

Par Exemple, dès maintenant, nous faisons les premiers pas dans le développement de machines au niveau d'exécution simples de navigation des tâches, la prise de décisions simples ou de mémorisation des paires de bits d'information. Mais bientôt, nous aurons le développement des machines qui peuvent effectuer des tâches plus complexes et possèdent beaucoup plus efficace d'un niveau global d'intelligence. Notre dernière l'objectif est de créer de l'intelligence humaine.

Dans le cadre de cette évolution, nous allons essayer de détecter et de corriger toutes les erreurs et problèmes. Avec chaque nouvelle génération de la machine sera de mieux gérer les erreurs précédentes. Cela augmentera les chances que nous serons en mesure de déterminer tous les effets imprévisibles dans симуляциях et les éliminer avant qu'ils puissent se réaliser dans le monde réel.

Une Autre possibilité, qui donne la évolutionniste de la méthode de développement, consiste à donner l'intelligence artificielle de l'éthique. Il est probable que de tels éthiques et morales traits de la personne, de la fiabilité et de l'altruisme, sont le résultat de notre évolution et le facteur de poursuivre.

Nous pouvons créer l'environnement artificiel et pour permettre à la machineles capacités qui leur permettent de démontrer la bonté, l'honnêteté et l'empathie. Il peut devenir l'un des moyens de s'assurer que nous développons de plus obéissants serviteurs, que impitoyables robots tueurs. Toutefois, bien que нейроэволюция peut réduire le niveau des effets imprévus dans le comportement de l'IA, elle ne peut pas empêcher l'utilisation abusive de l'intelligence artificielle.

En tant Que scientifique, je dois suivre ses obligations face à la vérité et de signaler ce qui est découvert dans le cadre de ses expériences, sans tenir compte de, me plaisent leurs résultats ou non. Mon but n'est pas de définir ce que j'aime, et ce n'est pas. Il est important que ce que je peux divulguer son travail.

la Peur des fausses sociaux priorités

D'Être un scientifique ne signifie pas perdre son humanité. Je dois à un certain niveau de recouvrer le lien avec ses espoirs et de ses craintes. En tant que moralement et politiquement motivé de la personnalité, je dois tenir compte des conséquences potentielles de son travail et de son effet possible sur la société.

En tant Que chercheurs et en tant que représentants de la société, nous n'avons pas encore arrivés à une claire idée de ce que nous voulons obtenir de l'IA et qu'il doit devenir à la fin. En partie, cela est certainement dû au fait que nous avons encore jusqu'à la fin de ne comprenons pas son potentiel. Mais il faut bien comprendre et de décider ce que nous voulons obtenir de vraiment avancé de l'intelligence artificielle.

L'Une des plus grandes sphères que les gens prêtent attention à la conversation sur l'IA, c'est l'emploi. Les robots remplissent déjà pour nous complexe le travail physique, par exemple, la collecte et la soudure entre une partie de la carrosserie. Mais un jour viendra le jour où les robots se chargeront d'exécution de tâches cognitives, ce qui signifie qu'ils commettent ce qui était considéré comme unique capacité de l'homme lui-même. Auto-voitures seront en mesure de remplacer les chauffeurs de taxi, auto-avions n'auront pas besoin de pilotes.

Au Lieu de recevoir des soins médicaux dans les paragraphes d'urgence, rempli toujours fatigué le personnel et les médecins, les patients pourront mener l'enquête et découvrir des diagnostics à l'aide de systèmes experts instantanée accès à toutes les connaissances médicales. Les opérations chirurgicales seront menées неподверженными à la fatigue des robots, avec un idéal de «наметанной de la main».

Des conseils Juridiques vous pouvez obtenir un ensemble de base juridique. Pour obtenir des conseils sur l'investissement allons demander aux experts des systèmes de marché de la prévision. Peut-être, un jour, humaine travail sera effectué par des machines. Même mon travail peut se faire plus rapidement grâce à l'utilisation d'un grand nombre de machines, explorant sans relâche, comment faire une machine encore plus intelligent.

Dans les réalités de notre société actuelle automatisation pousse les gens à quitter leur lieu de travail, en faisant des riches propriétaires de ces machines automatiques, sont encore plus riches, et d'autres plus pauvres. Mais ce n'est pas un problème scientifique. C'est la politique et социоэкономическая problème que doit résoudre la société elle-même.

Mes recherches cela ne changeront pas, mais mes fondements politiques, avec humanité, peut mener aux circonstances dans lesquelles l'IA peut se transformer à la seule fonction utile, au lieu de faire un écart entre un pour cent de l'élite mondiale et les autres nous encore plus large.

la Peur du scénario catastrophique

Nous avons été glanées au bout de la peur, de навязанному nous fou HAL 9000, de Terminaison et de toute autre злодейским сверхинтеллектом. Si l'IA va continuer à évoluer jusqu'à ce que ne dépassera l'intelligence humaine, sera-t-elle artificielle сверхинтеллектуальная système (ou l'ensemble de ces systèmes) de considérer l'être humain comme inutile à la matière? Comme nous serons en mesure de justifier son existence face à сверхинтеллекта, capable de faire et de faire ce qui ne serait pas capable de personne? Pouvons-nous échapper au sort d'être effacés de la Terre des machines, qui nous a aidé à créer?

Par Conséquent, la question la plus importante dans de telles circonstances, retentit: pourquoi nous aurons besoin de l'сверхинтеллекту?

Si une telle situation, j'aurais probablement dit que je suis une bonne personne, qui a même contribué à la création de cette сверхинтеллекта avant qui suis. J'aurais crié à sa compassion et de l'empathie pour сверхинтеллект m'a quitté, ce сострадающего et сопереживающего, vivants. Je voudrais aussi ajouté que, en soi, la diversité des espèces d'une valeur et l'Univers est si grand, que l'existence de l'espèce humaine en fait très peu.

Mais je ne peux pas parler pour toute l'humanité, donc pour nous tous, il me sera difficile de trouver un argument convaincant. Tout simplement, quand je regarde sur nous tous, vraiment, je vois que nous avons beaucoup fait et faisons mal. Dans le monde règne la haine de l'autre. Nous allons à la guerre les uns les autres. Nous ne distribuons de la nourriture, les connaissances et les soins de santé. Nous polluer la planète. Dans ce monde, bien sûr, il ya beaucoup de bonnes choses, mais, si l'on regarde toutes les mauvaises choses que nous avons fait et continuons de le faire, il sera très difficile de choisir un argument à l'appui de notre existence.

Heureusement, nous n'avez pas à justifier son existence. Nous avons encore le temps. De 50 à 250 ans, en fonction de la rapidité d'évolution de l'intelligence artificielle. Nous, comme la vue, avons la possibilité de se réunir tous ensemble et de trouver la bonne réponse à la questionpourquoi сверхинтеллект ne doit pas nous effacer de la planète.

Sera très difficile à résoudre cette question. En effet, de dire que nous soutenons la diversit et этнокультурные différences, et de le faire – c'est deux choses complètement différentes. Comme parler de ce que nous voulons sauver la planète, et a réussi à faire face.

Nous Tous, qu'il s'agisse de chaque individu ou de la société dans son ensemble, doivent se préparer à des algues scénario, en utilisant ce temps pour être prêt à montrer et démontrer pourquoi nos créations doivent nous permettre de continuer à exister. Ou bien, nous pouvons tout simplement continuer à croire aveuglément que ce développement est impossible, et il suffit de cesser de tenir des conversations sur ce sujet.

Cependant, peu importe quel type de physique, le danger peut représenter pour nous сверхинтеллект, il ne faut pas oublier que de représenter un danger, il sera encore et politique, mais aussi économique. Si nous ne trouvons pas un moyen d'améliorer notre niveau de vie, c'est finalement juste подпитаем le capitalisme ouvrier de l'intelligence artificielle, qui ne servira qu'à une poignée d'élus, dotés de tous les moyens de production.

l'Original de cet article a été publié sur le site theconversation.com Арендом Хинтзе (Arend Hintze), professeur associé au département de biologie intégrative, de l'informatique et de génie de l'Université d'état du Michigan