Intelligence artificielle: n'est pas une utopie, n'est pas l'apocalypse... mais que faire?

Presque tous ceux qui ont déjà un peu plongé dans le thème de l'intelligence artificielle, vient à la conclusion qu'il nous conduira à la огненному l'apocalypse, ou à la magie de l'utopie. Options entre pratiquement pas. Bien sûr, c'est en partie dicté par le fait que plus d'attention attirent des slogans comme «la Fin est proche!» ou «de l'Utopie à venir!». Et pourtant...

En Partie, cela revient au fait que les gens se réfèrent à des changements, en particulier de grande envergure. Миллениаризм n'a rien à faire, pour être «миллениалом», d'être né dans les années 90 et se souvenir de la série sur Buffy, gagnants de vampires. C'est le style de la pensée de l'avenir, qui est lié à profondément enracinées le sentiment d'un destin. Миллениаризм est «en attente de ce que le monde sera détruit et remplacé par un monde parfait et que le rédempteur viendra, qui plongent le mal et le confort des justes».

Les Croyances миллениалов, respectivement, lient étroitement les idées de la destruction et de la création. Parmi eux, des idées énormes, apocalyptiques, sismiques des changements qui détruisent le tissu du vieux monde et de construire quelque chose de complètement nouveau. Un tel système de croyances existent dans de nombreuses grandes religions du monde, et même pas tout à fait les religions athées et les agnostiques, qui croient à la technologie.

Jetez un coup d'oeil, par exemple, comme футурологи en attente de singularité technologique. De l'avis de Ray Курцвейла, la singularité est la création du paradis. Tout le monde peut devenir immortel, grâce à la biotechnologie, qui guériront de nos maladies et nos cerveaux sera possible de télécharger dans le cloud; les inégalités et les souffrances disparaissent en tant que phénomène. «La destruction du monde» (destruction of the world) est remplacé par le terme favori de la Silicon valley: disruption, ou un changement radical de l'industrie. Et comme dans le cas avec d'autres millénaires de croyances, de votre final regard dépend de ce que vous attendez: la fin du monde ou la naissance de l'utopie.

Il Ya beaucoup de bonnes raisons de rester sceptique sur ce type de pensée. La plus convaincante d'entre eux est, probablement dans le fait que les croyances миллениалов tout simplement reflètent l'attitude des gens au changement; il suffit de regarder comment les variations de ces croyances a augmenté dans le monde.

Ces croyances sont présents dans les aspects de la théologie chrétienne, mais est devenu populaire dans sa forme moderne, dans les 19e et 20e siècles. Les idées comme les peines éternelles nombreuses années de souffrances et de luttes et d'Admiration, quand les justes seront ressuscités, et le mal puni. Après ces destructions monde est recréé, soit les gens iront au paradis.

Malgré l'athéisme dogmatique, dans le marxisme avait beaucoup de ces croyances. La seule question à l'égard de l'histoire. Exactement la même, en tant que croyants recherchent des signaux qui намекнут sur l'accomplissement des prophéties, les marxistes cherchent des signes de ce que nous sommes en phase finale du capitalisme. Ils estiment que la société est inévitablement se dégrade et dégénérera au plus bas de l'échelle — en fait, comme le disent les chrétiens.

Selon le marxisme, si l'exploitation de la classe ouvrière deviendra riche instable, la classe ouvrière va et réinitialise l'oppresseur. La «tribulation» est remplacé par «la révolution». Parfois, les figures révolutionnaires comme Lénine ou le Marx consacre мессиями, qui s'approchent de l'offensive du Millénaire; leur rhétorique contient inévitablement des appels à la destruction de l'ancien système, sur les ruines de laquelle «nous, notre, nous construisons un nouveau monde». Les justes de travail recevront leur droit, et la méchante la bourgeoisie sera détruite.

Même dans la mythologie norvégienne a un élément de la ce, comme le souligne James Hughes, dans son essai dans le livre de Nick Бострома «Globales de risques catastrophiques». Ragnarok et les gens, et les dieux souffrent de la défaite en finale apocalyptique de la bataille, mais comme tout cela est un peu sombre, les scandinaves ont ajouté l'idée de l'émergence d'une nouvelle terre, où les survivants seront à vivre en harmonie.

Le jour du Jugement est devenu culturel тропом. Prendre les anciens égyptiens et leurs croyances sur le thème de l'au-delà; le seigneur de la pègre Osiris pèse le cœur d'un mortel, avec un stylo. Si le cœur du défunt sera trop entravé par les délinquances, il mange le démon et l'espoir d'une vie après la mort disparaît.

Il est Possible, lors de la singularité de se produire quelque chose de semblable. Au fur et à mesure que s'améliorent notre technologie, et donc de notre force, de notre cœur, le cœur des gens, seront pesés contre les plumes. Si elles sont trop lourdes avec la bêtise, l'arrogance, le préjugé, le mal — nous провалим à l'épreuve et nous serons détruits. Mais si nous allons et nous sortirons de la singularité, nous le paradis vous attend. Comme d'autres systèmes de croyances, ici, pas de place pour les non-croyants; la société va changer radicalement, que vous le vouliez ou non. Technologique de l'admiration.

Il Semble que chaque développement sérieux provoque une telle réponse. Et les armes nucléaires aussi. Soit ce sera la dernière goutte et nous détruirons vous-même, ou l'énergie nucléaire, vous pouvez les utiliser pour créer un monde meilleur. À l'aube de l'ère nucléaire, les gens ont dit sur l'électricité «qui sera trop cher pour lui de croire». Les scientifiques qui ont travaillé sur la bombe, souvent pensé que, avec une telle force destructrice dans les mains de l'homme, nous allons simplement tenus de se réunir et de travailler ensemble.

Quand nous voyons la même réponse, encore et encore, dans des circonstances différentes, rencontrés dans les différents domaines, qu'il s'agisse de la science, la religion ou la politique, nous avons besoin de prendre en compte humaines préjugés. Nous aimons les croyances миллениалов, donc quand apparaît l'idée d'une intelligence artificielle qui dépasse l'homme, nous avons défini familier modèle.

Nous n'aimons pas les faits. Nous n'aimons pas l'information. Nous ne sommes pas aussi rationnels que lui-mêmecroyons. Nous avons créer un récit. Les physiciens observent le monde, et nous вплетаем propres observations dans нарративные de la théorie, de l'histoire de minuscules boules de billard, qui volent ici et là et se heurtent entre eux, soit sur l'espace et le temps, qui se plie, se contourne et se dilate. Les historiens tentent de les doter d'un sens infini de flux d'événements. Nous adorons les histoires: des histoires est bordée de notre passé, de notre présent et ils nous préparent à l'avenir.

Narration миллениалов est beau et convaincant. Il vous mène à des changements sociaux. Il peut répondre à vos souffrances quotidiennes, si vous avez du chagrin. Il vous donne l'espoir que votre vie est importante et est logique. Il vous donne un sentiment du développement des choses dans une certaine direction, en conformité avec les règles, et pas seulement dans le chaos. Il promet que les justes seront sauvés, et les hérétiques punis, même si la souffrance. Enfin, la narration миллениалов promet le paradis à la fin du tunnel.

Il vaut mieux être prudent avec нарративом миллениалов, quand nous réfléchissons sur le thème du développement technologique, de la singularité et existentielles de risques. Nous avons plusieurs fois en criant «au loup!», quand ils n'étaient pas. Peut-être, et maintenant le monde n'est pas au bord de la catastrophe. Bien sûr, cette histoire n'est attirant. Bien sûr, tout le monde veut enchanteur de la finale.

Mais creusez plus profond — et vous vous rendrez compte que les croyances миллениалов ne sont pas toujours les plus prometteuses, car elles excluent humain de l'agent de l'équation. Nous devons croire en nuances de gris et de renoncer à senestre апокалипсисов avec красноглазым de l'IA et de la fée utopia avec le tout-puissant de l'IA, qui aime les gens.