«Una lezione amara»: lo scienziato ha detto che 70 anni nel campo di ricerca di intelligenza artificiale sono stati spesi quasi per niente

Il Più grande lezione che si può trarre da 70 anni di ricerca AI, sta nel fatto che le tecniche che usano i calcoli, alla fine si rivelano più efficaci — e con un ampio margine. La causa ultima di questo è la legge di Moore. O, piuttosto, la sua generalizzazione: continua, esponenziale riduzione di calcolo dei processori. Su questo «amara lezione», ha detto Richard Sutton, canadese scienziato informatico. Di seguito — in prima persona.

Perché la ricerca di intelligenza artificiale sono in un vicolo cieco 70 anni?

La Maggior parte degli studi sull'intelligenza artificiale sono stati condotti in modo, come se i calcoli disponibili all'agente, sono stati costanti (e in questo caso l'uso della conoscenza umana sarebbe uno dei pochi modi per migliorare le prestazioni). Ma dopo un po ' — molto di più di quanto è necessario per un tipico progetto di ricerca — diventa inevitabilmente è molto di più di calcolo. In cerca di miglioramenti, che possono aiutare nel breve periodo, gli scienziati stanno cercando di utilizzare al massimo le conoscenze umane in questo settore, ma l'unica cosa che conta nel lungo periodo è crescente uso di calcolo. Questi due aspetti non devono essere in contrasto l'uno con l'altro, ma in pratica vanno. Il tempo speso per uno di loro, non importa il tempo, trascorsi a un altro. Ci sono psicologici obblighi di investire in uno o l'altro approccio. E un approccio basato sulla conoscenza dell'uomo, ha la tendenza a complicare le tecniche in modo che diventino meno adatti per l'uso i vantaggi di metodi comuni che utilizzano il calcolo.

Conclusione: bisogno una volta di oscillazione tentativo di risolvere il problema AI «testa», perché il tempo passerà e lei decide molto più facile e veloce, grazie ad un aumento di potenza di calcolo.

C'Era un sacco di esempi in cui i ricercatori di intelligenza artificiale in ritardo capito questa amara lezione. Sarà istruttivo esaminare alcuni degli esempi più importanti.

Nel computer di scacchi tecniche, ha vinto il campione del mondo Kasparov nel 1997, si basavano su una massiccia, profondo ricerca. In quel momento a lui con ansia trattati la maggior parte dei ricercatori computer di scacchi, che hanno usato metodi basati sulla comprensione persona singolare struttura di scacchi. Quando più semplice, basato sulla ricerca di un approccio con uno speciale hardware e software si è dimostrato più efficace, i ricercatori che vengono riflesse dalla comprensione umana di scacchi, non ha riconosciuto la sconfitta. Hanno detto: «questa volta l'approccio di forza bruta, può essere, e ha vinto, ma questo non diventa una strategia comune e di certo non giocano a scacchi in questo modo. Questi scienziati voluto metodi basati sul contributo umano, vinto, e molto deluso, quando questo non è accaduto.

Conclusione: semplice forza bruta di calcolo prenderà il suo, prima o poi

Un modello Simile progresso negli studi è stata avvistata in informatica guo, solo con un ritardo di 20 anni. Originariamente enormi sforzi diretti per evitare di ricerca, utilizzando le conoscenze umane o caratteristiche, ma tutti questi sforzi sono stati inutili o peggio ancora, come solo la ricerca applicata in modo efficace e ambizione. Inoltre è importante utilizzare la formazione nel processo di auto-gioco per imparare il valore della funzione (come in molti altri giochi e anche nel gioco degli scacchi, solo la pratica non ha svolto un grande ruolo nel programma del 1997, che per la prima volta ha battuto il campione del mondo). La pratica gioco con se stessi, la formazione in generale, è come la ricerca, che permette di applicare enormi quantità di calcoli. Ricerca e formazione — i due più importanti di classe tecnico, utilizzano enormi quantità di calcoli in studi IA. In informatica guo, come nel computer di scacchi, iniziali gli sforzi dei ricercatori sono stati inviati per l'utilizzo della comprensione umana (così, per utilizzare meno di ricerca), e solo molto più tardi è stato fatto molto più successo — attraverso l'uso di ricerca e di apprendimento.

Conclusione: la ricerca e la formazione, stimolate potenza di calcolo, superano di gran lunga i tentativi di risolvere il problema «approccio non convenzionale di pensare»

Nel campo del riconoscimento vocale nel 1970 è stato indetto il concorso, sponsorizzato dalla DARPA. I partecipanti hanno presentato i vari metodi che hanno usato i vantaggi della conoscenza umana — conoscenza di parole o fonemi, umano tratto vocale e così via. Dall'altro lato della barricata c'erano più nuovi metodi statistici per sua natura e che offrono una maggiore potenza di calcolo, sulla base dei modelli nascosti di Markov (HMM). E anche in questo caso i metodi statistici vinto metodi basati sulla conoscenza dell'uomo. Questo ha portato a grandi cambiamenti in tutta l'elaborazione del linguaggio naturale, a poco a poco внедряющимся per decenni, fino a quando alla fine la statistica e il calcolo non ha cominciato a dominare in questo campo. Il recente aumento approfondita formazione nel campo del riconoscimento vocale è l'ultimo passo in questa sequenziale direzione. Metodi di apprendimento profondo ancora meno si basano sulla conoscenza umana e usano ancora più computing, insieme con la formazione di enormi set di campioni, e dare mozzafiato sistemi di riconoscimento vocale.

Richard Sutton, canadese scienziato informatico

Come i giochi, gli scienziati hanno sempre cercato di creare sistemi che funzionano così come erano nella loro testa — hanno cercato di mettere questa conoscenza nei loro sistemi— ma tutto questo ha lasciato estremamente improduttivo, gli scienziati hanno solo perdere tempo fino a quando — a causa della legge di Moore — resi disponibili sempre più massiccia di calcolo e di trovare un bel applicazione.

Conclusione: lo stesso errore si ripete da decenni

Un modello Simile è stato nel campo della visione artificiale. I primi metodi percepito come ricerca di alcuni circuiti, generalizzata dei cilindri, o con l'applicazione di opportunità SIFT (la scala-invariante di trasformazione segni). Ma oggi tutto questo è gettato nella fornace. Moderne reti neurali con una profonda formazione utilizzano solo il concetto di convoluzione e alcune invarianti e funzionano molto meglio.

Questa È una grande lezione.

In quale zona abbiamo visitato, abbiamo ovunque continuiamo a commettere gli stessi errori. Per vedere questo e in modo efficace di combattere, è necessario capire perché questi errori così attraente dobbiamo imparare una lezione amara, che la costruzione di un fine, come pensiamo, a partire da come la pensiamo, non funziona nel lungo periodo. Una lezione amara, basato su osservazioni storiche, dimostra che: 1) i ricercatori di intelligenza artificiale spesso cercato di incorporare la conoscenza dei suoi agenti; 2) e ' sempre aiutato nel breve termine e ha portato gli scienziati di soddisfazione; 3) ma nel lungo periodo tutti i duplicati in fase di stallo e inibito l'ulteriore progresso; 4) dirompente progresso inevitabilmente si avvicinò con l'applicazione di un approccio opposto, basato sulla scala di calcolo attraverso la ricerca e la formazione. Il successo è stato amaro e spesso non assorbita dal tutto, perché il successo di calcolo, e non orientato al successo per persona approcci.

Da questa amara lezione da imparare una cosa: un potere enorme metodi di utilità, di metodi, che continuano a scalare con la crescita di calcolo, anche quando sono disponibili i calcoli diventano molto grandi. Due metodi che, a quanto pare, vengono scalati arbitrariamente in questo modo — è la ricerca e la pratica.

La Seconda cosa che si dovrebbe imparare da questa amara lezione, consiste nel fatto che il contenuto effettivo della mente estremamente e inutilmente complessa; dovremmo smettere di cercare di trovare modi semplici per comprendere il contenuto della mente, simili a semplici modi per la comprensione dello spazio, degli oggetti, degli agenti multipli o simmetrie. Sono tutti parte arbitrariamente complesso mondo esterno. Non dovremmo tentare dal loro inizio, perché la loro complessità infinita; dovremmo costruire su una meta-metodi, che possono trovare e catturare questa arbitraria complessità. Questi metodi possono trovare buone approssimazioni, ma la ricerca deve essere effettuata dai nostri metodi, e non noi. Abbiamo bisogno di agenti di IA, che possono aprire così come siamo, e non contenere quello che abbiamo scoperto. La costruzione delle nostre scoperte solo complica il processo di scoperta e di ricerca.

Conclusione: devi fidarti di calcoli, e non cercare di calafataggio umani riflessioni e tentativi di spiegare le complesse tecniche di scoperta e di ricerca semplici schemi; nel lungo periodo funzionera ' il primo e non l'ultimo.

Discutere una lezione amara ricercatori di intelligenza artificiale possibile .