Di che ha paura di se stesso sviluppatore IA nella sua creazione

Come persona impegnata nella ricerca di intelligenza artificiale, mi capita spesso di imbattermi con l'opinione che molte persone hanno paura di IA e di ciò che può diventare. In realtà non c'è da stupirsi, se si guarda da una posizione di storia dell'umanità, pur prestando attenzione a ciò che di roba noi l'industria dell'intrattenimento, che le persone possono avere paura cibernetico della rivolta, che farà vivere isolato territori, e altri trasformerà in «Матрицеподобный» vista umani batterie.

E comunque per me, guardando tutti questi evolutivi modelli di computer, che uso nello sviluppo di IA, è difficile pensare che i miei innocui, pulito come una lacrima di un bambino di creare sullo schermo del mio computer un giorno sarà in grado di trasformarsi in mostri distopia futuristica. In realtà mi può chiamare «distruttore di mondi», come una volta si era pentito e ha parlato di se stesso Oppenheimer dopo aver guidato il programma di creazione di una bomba nucleare?

Forse avrei preso una tale gloria, e può criticare il mio lavoro ancora ragione? Forse dovrei davvero smetterla di evitare domande sulle paure nei confronti dell'intelligenza artificiale sono me stesso come un esperto nel campo dell'intelligenza artificiale?

la Paura di imprevedibilità

Il Computer HAL 9000, che è diventato un sogno scientifico di fantascienza di Arthur c. Clarke e incarnata nella vita di un regista Stanley Кубриком nel suo nastro di «2001: odissea nello Spazio», è un ottimo esempio di sistema, che ha dato esito negativo a causa di circostanze impreviste.

In molti sistemi complessi – Titanic, shuttle della NASA e la centrale nucleare di Chernobyl – gli ingegneri hanno dovuto combinare tra loro una pluralità di componenti. Forse gli architetti di questi sistemi è stato ben noto, come ogni elemento funziona singolarmente, ma non ben capito come tutte queste componenti lavoreranno insieme.

Il Risultato sono sistemi che mai fino alla fine non sono stati capiti loro stessi creatori, che ha portato a certe conseguenze. In ogni caso – nave annegato, due shuttle esplose, e quasi tutta l'Europa e parte dell'Asia di fronte ad un problema di contaminazione radioattiva – set relativamente piccoli problemi, ma per caso si sono verificati contemporaneamente, hanno creato un effetto catastrofico.

Posso immaginare, come noi, i creatori di intelligenza artificiale, in grado di arrivare a risultati simili. Prendiamo gli ultimi sviluppi della ricerca e in когнивистике (la scienza del pensiero, — ca. ndr), tradurli in algoritmi informatici e aggiungiamo il tutto in sistemi esistenti. Stiamo cercando di sviluppare IA senza una piena comprensione della propria intelligenza e la coscienza.

Sistemi come Watson di IBM o Alpha da Google, rappresentano una rete neurale artificiale, in possesso di calcolo impressionanti capacità e sono in grado di gestire davvero impegnativi. Ma finora l'unica cosa che porterà errore nel loro lavoro, è il risultato di una perdita in un gioco intellettuale «Jeopardy!» o la perdita di possibilità di vincere un altro di migliore giocatore al mondo in un tavolo da gioco di puzzle.

Queste conseguenze non portano mondiale carattere. In realtà la cosa peggiore che può accadere a persone, in questo caso, si tratta di qualcuno perde una certa quantità di denaro su scommesse.

Tuttavia l'architettura IA diventa sempre più difficile, e i processi del computer — il tutto più veloce. Possibilità di IA con il tempo potrà solo aumentare. E già questo ci porta al fatto che cominciamo a contare su AI sempre più responsabilità, anche nonostante i crescenti rischi di circostanze impreviste.

Siamo ben consapevoli che «l'errore fa parte della natura umana», quindi per noi sarà solo fisicamente impossibile creare un vero e sicura in tutto il sistema.

la Paura di un uso improprio

Io non sono molto preoccupato imprevedibilità delle conseguenze nel lavoro di IA che sto sviluppando, utilizzando l'approccio della cosiddetta нейроэволюции. Sto creando ambienti virtuali e заселяю loro creature digitali, dando loro «cervello» della squadra per la soluzione dei compiti di difficoltà crescente.

Con il passare del tempo l'efficienza delle applicazioni di queste creature cresce, si evolve. Chi si riordina bene con compiti di meglio, tutti selezionati per la riproduzione, la creazione di sulla base di una nuova generazione. Attraverso molte generazioni di questi digitali creazione di sviluppare le capacità cognitive.

Per Esempio, adesso stiamo facendo i primi passi nello sviluppo di macchine a livello di esecuzione di semplici compiti di navigazione, l'adozione di soluzioni facili o memorizzare le coppie di bit di informazioni. Ma presto avremo lo sviluppo di macchine in grado di eseguire compiti più complessi e avrà molto più efficace il livello generale di intelligenza. Il nostro scopo finale è la creazione di intelligenza umana.

Nel corso di questa evoluzione cercheremo di individuare e correggere tutti gli errori e i problemi. Con ogni nuova generazione di macchine saranno meglio in grado di affrontare gli errori, rispetto ai precedenti. Questo aumenterà le probabilità che saremo in grado di identificare tutte le conseguenze imprevedibili nelle simulazioni ed eliminare la loro prima ancora che essi saranno in grado di realizzarsi nel mondo reale.

Un'altra possibilità, che dà evolutivo metodo di sviluppo, è quello di dotare di intelligenza artificiale etica. È probabile che tali etici e morali caratteristiche di una persona, come l'affidabilità e l'altruismo, sono il risultato della nostra evoluzione e fattore di proseguire.

Siamo in grado di creare un ambiente artificiale e dotare la macchinaabilità, che consentono loro di dimostrare la bontà, l'onestà e l'empatia. Questo può essere uno dei modi per assicurarsi che stiamo sviluppando più obbedienti servitori, che spietati robot assassini. Tuttavia, nonostante il fatto che нейроэволюция può ridurre il livello di eventuali conseguenze nel comportamento dell'IA, non può impedire l'uso improprio di intelligenza artificiale.

Come scienziato, devo seguire i suoi obblighi prima di verità e di riferire ciò che ha scoperto, nell'ambito dei propri esperimenti indipendentemente da ciò, mi piacciono i loro risultati o no. Il mio compito non è quello di determinare che cosa mi piace e cosa no. È importante solo quello che posso manifestare il loro lavoro.

la Paura sbagliate sociali priorità

Essere uno scienziato – non significa perdere la propria umanità. Devo a un certo livello di ri-prendere contatto con le proprie speranze e paure. Essendo moralmente e politicamente motivata personalità, devo tener conto delle potenziali conseguenze del suo lavoro e del suo possibile effetto sulla società.

Come studiosi e come rappresentanti della società, non siamo ancora arrivati a una chiara idea di quello che vogliamo ottenere dalla IA e che deve diventare alla fine. Parte di questo è, naturalmente, è dovuto al fatto che siamo ancora alla fine non capiamo il suo potenziale. Ma ancora abbiamo bisogno di capire e decidere cosa vogliamo ottenere da un davvero avanzato di intelligenza artificiale.

Uno dei più grandi settori, in cui le persone prestano attenzione a parlare di intelligenza artificiale, è un lavoro. I robot già svolgono per noi una complessa attività fisica, ad esempio, la raccolta e la saldatura tra di loro parti di carrozzeria. Ma un giorno, quando i robot faranno pagare l'esecuzione di compiti cognitivi, cioè li faranno pagare quello che prima era considerato esclusivamente la capacità unica dell'uomo stesso. In auto sarà in grado di sostituire gli autisti di taxi; autogestita aerei non avranno bisogno di piloti.

Invece di ricevere assistenza medica nei punti di pronto soccorso, riempita sempre stanco personale e medici, i pazienti saranno in grado di effettuare indagini e riconoscere le diagnosi con l'aiuto di sistemi esperti con immediato accesso a tutti i medici di conoscenza. Chirurgiche operazioni saranno condotte неподверженными a fatica robot, con perfetta «наметанной mano».

Consulenza Legale sarà possibile ottenere di una base giuridica. Consigli per gli investimenti saremo rivolgersi a esperti i sistemi di previsione di mercato. Forse, un giorno, tutta umana, il lavoro sarà eseguito dalle macchine. Anche il mio lavoro sarà possibile fare più veloce grazie all'utilizzo di un gran numero di macchine, instancabilmente esplorano, come rendere la macchina ancora più intelligente.

In realtà la nostra società attuale automazione già spinge le persone a lasciare i loro posti di lavoro, rendendo i ricchi proprietari di tali macchine automatizzate ancora più ricco, e gli altri ancora più poveri. Ma questo non è un problema. È un politico e социоэкономическая problema che deve affrontare la società stessa.

I Miei studi non cambiano, ma i miei politici, fondazioni, insieme con l'umanità, forse, porteranno alle circostanze in cui l'IA è in grado di trasformare in esclusiva funzione utile, invece di fare il divario tra di un punto percentuale dell'élite globale e il resto di noi ancora di più.

la Paura disastroso scenario

Siamo arrivati all'ultimo timore, imposta da noi folle HAL 9000, Terminator e qualsiasi altro malvagio сверхинтеллектом. Se l'IA continuerà a svilupparsi finché non supererà l'intelligenza umana, se artificiale сверхинтеллектуальная sistema (o l'insieme di tali sistemi) di considerare la persona umana come inutile di materiale? Come possiamo giustificare la propria esistenza di fronte сверхинтеллекта, capace di fare e di fare ciò che non sarà in grado né di una persona? Se siamo in grado di sfuggire al destino di essere cancellati dalla faccia della Terra le macchine che abbiamo contribuito a creare?

Quindi la domanda più importante in tali circostanze, suona così: perché ci sarà bisogno di artificiale сверхинтеллекту?

Se una tale situazione, avrei forse detto che sono una brava persona, che ha anche contribuito alla creazione di questo сверхинтеллекта, prima che trovo. Mi sarebbe appellato alla sua compassione e l'empatia per сверхинтеллект mi ha lasciato, tale сострадающего e "modello" emotivo, in vita. Avrei anche aggiunto, che di per sé la diversità di specie ha un valore e l'Universo è così grande, che l'esistenza della specie umana è in realtà molto leggermente.

Ma non posso parlare per tutta l'umanità, quindi per tutti noi sarà difficile trovare un'argomentazione convincente. Semplicemente, quando guardo tutti noi, io vedo che ci sono molte cose che ha fatto e facciamo in modo errato. Nel mondo regna l'odio per l'altro. Andiamo in guerra tra loro. Abbiamo ingiusto distribuiamo cibo, la conoscenza e l'assistenza medica. Stiamo buttando il pianeta nella spezzatura. In questo mondo, naturalmente, ci sono un sacco di cose buone, ma, se dare un'occhiata a tutte quelle brutte cose che abbiamo fatto e continuiamo a fare, sarà molto difficile trovare un argomento a sostegno della nostra esistenza.

Per fortuna, non deve giustificare la sua esistenza. Abbiamo ancora tempo. Da 50 a 250 anni, a seconda di quanto velocemente si svilupperà l'intelligenza artificiale. Noi, come specie, abbiamo la possibilità di stare tutti insieme e trovare una buona risposta alla domanda,perché сверхинтеллект non deve cancellarci dalla faccia del pianeta.

Sarà molto difficile risolvere questo problema. Infatti dire che promuoviamo la diversità e diversita, e farlo è una cosa completamente diversa. Come e parlare di ciò che vogliamo salvare il pianeta, e può affrontare tutto questo.

Tutti noi, che si tratti di ogni singola persona o la società nel suo complesso, devono prepararsi per il catastrofico scenario, utilizzando il tempo per essere pronti a mostrare e dimostrare, perché le nostre creazioni dovrebbero permetterci di continuare a esistere. Oppure possiamo semplicemente continuare a credere ciecamente che tale sviluppo è impossibile, e semplicemente smettere di parlare su questo argomento.

Tuttavia, non importa quale pericolo fisico può rappresentare per noi сверхинтеллект, non dobbiamo dimenticare che il pericolo sarà ancora e politico, ma anche economico. Se non troviamo un modo di migliorare il nostro livello di vita, poi alla fine basta подпитаем il capitalismo manovale intelligenza artificiale, che servirà solo una manciata di eletti in possesso di tutti i mezzi di produzione.

Originale di questo articolo è stato pubblicato sul sito theconversation.com Арендом Хинтзе (Arend Hintze), professore associato, dipartimento di biologia, scienze informatiche e ingegneria dell'Università del Michigan