Come creare un robot che vuole cambiare il mondo?

Scienziato Informatico Christophe Солдж cercando di eliminare la necessità di regole che controllano il comportamento di un robot. La sua strategia — di dare loro un obiettivo: fare più potenti. Christoph funziona in Game Innovation Lab dell'università di New York. Sasha Maslov intervistato Солджа per Quanta Magazine, da cui apprendiamo che noi, forse, non vale la pena cercare di mantenere il flusso inarrestabile di singolarità tecnologica.

Le Famose tre leggi della robotica di Isaac Asimov — le limitazioni di comportamento androidi e le macchine necessarie per garantire la sicurezza dell'umanità — sono stati anche incomplete. Queste leggi in primo luogo sono comparso in un racconto di Asimov nel 1942, e poi in opere classiche come «Io, robot» e suonano più o meno così:

1. un Robot non può danneggiare un essere umano o attraverso l'inazione, permettere che un uomo è stato causato il danno.
2. il Robot deve obbedire agli ordini, отдаваемым persone, se non contrastino con la Prima Legge.
3. un Robot deve proteggere la propria esistenza, se questa protezione non contrasti con la Prima o la Seconda Legge.

Naturalmente, in queste leggi si possono trovare un sacco di contraddizioni e lacune (che, in realtà, goduto e lo stesso Asimov). Nella nostra epoca attuale avanzato software nativo dell'apprendimento e della robotica, la definizione e l'attuazione di ferro etica dell'intelligenza artificiale è diventato un problema urgente per organizzazioni come l'Istituto di ricerca dell'intelligenza artificiale e OpenAI.

Christoph Солдж ha adottato un approccio diverso. Invece di «top-down» imporre filosofiche determinare come devono o non devono comportarsi artificiali agenti, Солдж e il suo collega Daniel Polanyi ricercano percorso «bottom-up», o «che il robot deve fare prima di tutto», come ha scritto nel suo articolo «l'Estensione dei diritti come la sostituzione di tre leggi della robotica». «L'estensione dei diritti», concetto, nata all'incrocio tra cibernetica e della psicologia, descrive la motivazione intrinseca di un agente al simultanea di resistenza e di lavoro in condizioni ambientali. «Come il corpo, si vuole sopravvivere. Vuole lasciare un segno nel mondo», spiega Солдж. Aspirapolvere Roomba, programmato alla ricerca di una stazione di ricarica le batterie sono scariche, — è rudimentale esempio di «diritti estesi»: per continuare a funzionare nel mondo, si dovrebbe ottenere la carica e continuare la propria esistenza, cioè di sopravvivere.

L'Estensione dei diritti può sembrare una ricetta per ottenere lo stesso risultato, di cui hanno paura i sostenitori di sicura intelligenza artificiale come Nick Бострома: potente sistema autonomo, preoccupata solo di apprezzamento propri interessi e convergente con la mente in questo processo. Ma Солдж, studia uomo-macchina interazioni sociali, chiede: che succede se l'agente avanzati «sarà anche fare l'estensione dei diritti di un altro? È necessario, per il robot non volevo rimanere in condizioni di lavoro — è necessario, per ha anche voluto mantenere il suo partner umano».

Солдж e Polanyi capito che la teoria dell'informazione offre un modo per realizzare questo è reciproco l'estensione della matematica di base, che prenderà l'armi non-философствующий agente artificiale. «Uno degli svantaggi delle tre leggi della robotica è che essi si basano sulla lingua, e la lingua in un alto grado di ambiguo», dice Солдж. «Stiamo cercando di trovare qualcosa che in realtà sarà possibile fare».

Alcuni tecnici ritengono che l'IA è un grande, anche una grave minaccia esistenziale per gli uomini. E tu?

Mi asterrò. Cioè io davvero credo che attualmente c'è la paura del robot e la crescente influenza dell'IA. Ma credo che, nel breve termine, probabilmente siamo più preoccupati per un possibile cambiamento di posti di lavoro, il processo decisionale, la perdita di democrazia, perdita di privacy. Non so quanto sia probabile la comparsa di un inarrestabile IA in un prossimo futuro. Ma anche se l'IA sarà controllare il sistema sanitario e dare ricette, dovremmo pensare a questioni etiche che sorgono nel processo di lavoro.

In che modo il concetto di estensione dei diritti ci aiuterà a far fronte a questi problemi?

Penso che l'idea di estensione dei diritti riempie una nicchia. Lei non darà agente di permettere ad una persona di morire, ma una volta che si sarà in grado di resistere a questa soglia, sosterrà l'intenzione di creare ulteriori opportunità per l'espressione dell'uomo e influenza sul mondo. In uno dei libri di Asimov i robot solo alla fine inseriranno tutte le persone in contenitori di sicurezza. Sarebbe auspicabile. Se la nostra capacità di influenzare il mondo sarà sempre migliorare, penso che sarà molto più interessante per raggiungere l'obiettivo.

Hai controllato le loro idee virtuali agenti in видеоигровой ambiente. Che è successo?

L'Agente, motivati propri privilegi, partono da un proiettile e non cade nel pozzo, in comune eviterà qualsiasi situazione che può portare alla perdita di mobilità, di morte o di danni in modo da ridurre la sua operatività:. Sarà solo stare.

In collaborazione con il giocatore-uomo, che è anche dotato di privilegi, abbiamo visto che virtuale robot sarà mantenere una certa distanza, per non ostacolare il movimento di una persona. Non si blocca, non sarà sul passo, non si poteva passare. Sarà lui a stare il più vicino possibile a voi, per essere in grado di aiutare. Questo porta a comportamenti in cui si può eprendere l'iniziativa, e a seguire per gli altri.

Per esempio, abbiamo creato uno scenario in cui abbiamo avuto la barriera laser, è una minaccia per l'uomo, ma è sicuro per il robot. Se la persona in questo gioco si avvicina ai laser, robot appare più incentivi per bloccare il laser. L'incentivo è rafforzata quando una persona diventa direttamente di fronte a una barriera, come se la sua intenzione di attraversare. E robot di fatto blocca il laser, diventando prima persona.

hanno Manifestato se questi agenti che-o non intenzionale comportamento, simile a quello che emerge dalle tre leggi in un libro di Asimov?

In Primo luogo, il comportamento è stato buono. Ad esempio, un robot virtuale intercettato avversari, che hanno cercato di ucciderla. Da tempo ha potuto saltare sotto il proiettile, se questo era l'unico modo per salvare voi. Ma ciò che ci ha particolarmente sorpreso, fin dall'inizio, che è anche molto paura dell'uomo.

La Ragione di questo è legato con il suo «miope» modello: infatti, si analizza, come sequenza di azioni specifiche in due-tre passaggi possono influenzare il mondo, per voi e per lui. Quindi il primo passo abbiamo programmato che il giocatore agisce in modo casuale. Ma in pratica, questo ha portato a quello che l'agente si riferiva all'uomo come ad una sorta di psicopatico, che potrebbe in qualsiasi momento, ad esempio, sparare a un agente. Pertanto, l'agente ha rappresentato per molto e molto attento a scegliere le posizioni per le quali l'uomo non avrebbe potuto ucciderlo.

Abbiamo bisogno di risolvere il problema, quindi abbiamo modellato la cosiddetta ipotesi della fiducia. Infatti, compagno-agente agisce, partendo dal presupposto che l'uomo è di scegliere solo le azioni che non saranno di limitare i diritti estesi dell'agente — forse è più adatto per il compagno di modello.

Abbiamo anche notato che se nel gioco si era, diciamo, 10 punti salute, compagno non è particolarmente preoccupato, se avete perso otto o nove di questi punti, poteva anche sparare a voi per questa volta, solo per scherzo. E poi ci siamo resi conto che c'è un divario tra il mondo in cui viviamo, e il modello in un gioco per computer. Non appena abbiamo modellato i limiti della capacità, causati dalla perdita di salute, il problema è scomparso. Inoltre è stato possibile risolvere, creando una близорукую un modello che possa contare ancora su un paio di passi verso il futuro. Se l'agente possa guardare avanti nel futuro, egli avrebbe visto che avere più punti di salute può essere utile per i futuri eventi.

Tenendo conto che il cambio di numero di punti salute non influisce sulle mie estesi diritti, l'agente decide: «Sparo io in lui, non sparo — qual è la differenza?». E a volte spara. Che, naturalmente, è un problema. Non voglio colpi casuali nei giocatori. Abbiamo aggiunto fix per virtual robot un po ' più preoccupato per il tuo stato, che sul suo.

Come si fanno questi concetti precisi?

Se si considerano agenti, come il sistema di controllo, può essere scomposto in informazioni componenti: in un mondo che si e comunque vale anche per te. Stiamo parlando di informazioni, non come cose che si percepisce, e come effetti di qualsiasi genere, questo può essere la sostanza, qualcosa che si verificano tra il mondo e voi. Può essere la temperatura o le sostanze nutrienti nel vostro corpo. Qualsiasi cosa, che attraversa il confine tra il mondo e l'agente, trasporta informazioni. Allo stesso modo, l'agente può influenzare il mondo esterno, in molti modi, anche portando in esso informazioni.

Si Può considerare questo flusso come la larghezza di banda del canale, questo è il concetto di teoria dell'informazione. Si possono avere ampi poteri, diritti avanzati, se si è in grado di intraprendere una serie di azioni che portano a risultati diversi. Se qualcosa va storto, si perde i suoi poteri, perché la perdita di capacità corrisponde ad una riduzione della larghezza di banda tra voi e l'ambiente. Questa è l'idea di base.

Quanto deve sapere agente, per i suoi poteri estesi hanno agito in pieno?

I diritti Estesi sono i vantaggi che si possono applicare anche quando non si ha piena conoscenza. L'agente ha davvero bisogno di essere un modello di come le sue azioni influenzeranno il mondo, ma non ha bisogno di una completa comprensione del mondo e di tutte le sue sottigliezze. A differenza di alcuni approcci che cercano di modellare tutto il mondo, per quanto possibile, nel nostro caso, dobbiamo solo scoprire come le vostre azioni influenzano la stessa percezione. Non c'è bisogno di conoscere tutto di tutti; bisogno di un solo agente, che esplora il mondo. Sta facendo qualcosa e cerca di capire come le sue azioni influenzano il mondo. Il modello è in crescita, e l'agente di meglio si capisce dove si estendono i confini del suo mandato.

Si è verificato in un ambiente virtuale. Perché non nel mondo reale?

Il Principale ostacolo zoom di questo modello e quello di metterla in un robot reale, è la complessità del calcolo della larghezza di banda di un agente e di un uomo in un ricco ambiente, come il mondo reale, a lungo in avanti. Tutti questi processi ancora di diventare efficaci. Io sono ottimista, ma fino a quando questo problema è puramente di calcolo. Quindi controlliamo il funzionamento del sistema in un gioco per computer, in forma semplificata.

Sembra che l'estensione dei diritti e delle opportunità, idealmente, renderà le nostre macchine potenti questi cani.

So anche di alcuni robotica, che consapevolmente modellano il comportamento di un compagno sulla base di cane. Credo che, se i robot si riferiscono a noi, come i nostri cani, in questo futurotutti possiamo andare d'accordo.