Le persone non si fidano IA. Come risolvere il problema?

L'intelligenza Artificiale è già in grado di prevedere il futuro. La polizia usa i suoi per comporre le carte, riflettente, quando e dove può verificarsi un crimine. I medici utilizzano per prevedere il futuro, quando il paziente può essere un ictus o un attacco di cuore. Gli scienziati stanno anche cercando di dare AI immaginazione, per lui poteva prevedere eventi inaspettati.

Molte decisioni nella nostra vita richiedono buone previsioni, e gli agenti IA quasi sempre meglio far fronte con loro, che gli uomini. Tuttavia per tutti questi progressi tecnologici ci manca ancora fiducia nelle previsioni, che dà l'intelligenza artificiale. Le persone non sono abituati a fare affidamento su IA e preferiscono fidarsi di esperti in faccia le persone, anche se queste gli esperti sbagliano.

Se vogliamo, per l'intelligenza artificiale portava beneficio di persone, abbiamo bisogno di imparare a fidarsi di lui. Per fare questo abbiamo bisogno di capire perché la gente è così insistentemente si rifiutano di fiducia IA.

Affidati al dottor Robot

Tentativo di IBM presentare суперкомпьютерную programma i oncologi (Watson for Oncology) è diventato un fallimento. IA ha promesso di fornire alta qualità raccomandazioni per il trattamento di 12 tipi di cancro, che rappresentano l ' 80% dei casi nel mondo. Ad oggi, più di 14 000 pazienti hanno ricevuto raccomandazioni sulla base dei suoi calcoli.

Ma quando i medici per la prima volta affrontato con Watson, si trovarono in una situazione piuttosto difficile. Da un lato, se la Watson ha dato indicazioni per quanto riguarda il trattamento, coincidenti con le proprie opinioni, i medici non hanno visto un grande valore nelle raccomandazioni AI. Il supercomputer appena detto loro quello che già sapevano, e queste raccomandazioni non sono cambiate effettivo trattamento. Questo, forse, ha dato ai medici la calma e la fiducia nelle proprie decisioni. Ma IBM non ha dimostrato che la Watson è davvero aumenta la percentuale di sopravvivenza al cancro.

D'altra parte, se Watson ha pubblicato le raccomandazioni, che si è discostato dal parere di esperti, i medici hanno concluso che Watson incompetente. E la macchina non riusciva a spiegare perché il suo trattamento deve funzionare, perché i suoi algoritmi di apprendimento automatico sono troppo complesse per poter capire le persone. Di conseguenza, questo ha portato ad un maggiore diffidenza, e molti medici semplicemente ignorato le raccomandazioni IA, basandosi sulla propria esperienza.

A seguito di medico principale partner di IBM Watson — MD Anderson Cancer Center, ha recentemente annunciato di abbandonare il programma. Ospedale olandese ha anche riferito che rifiuta il programma dopo aver scoperto, che gli oncologi non sono d'accordo con Watson in due casi su tre.

Il Problema di ricerca sul cancro Watson è che i medici non gli si fidavano. La fiducia della gente spesso dipende dalla nostra comprensione di come la pensano altre persone, e la propria esperienza, rafforza la fiducia nel loro parere. Questo crea un senso psicologico di sicurezza. IA stessa, d'altra parte, è relativamente nuova e incomprensibile per la gente cosa. Egli prende decisioni, sulla base di un sofisticato sistema di analisi per individuare possibili modelli nascosti e segnali deboli, derivanti da grandi quantità di dati.

Anche se può spiegare il linguaggio tecnico, il processo decisionale AI, di solito, è troppo complessa per poter capire la maggior parte delle persone. L'interazione con qualcosa che non capiamo, può causare ansia e creare una sensazione di perdita di controllo. Molte persone semplicemente non si rendono conto di come funziona l'IA, perché questo sta accadendo da qualche parte dietro lo schermo, in background.

Per questo motivo, sono più nitida al bando di gara casi, quando l'IA si sbaglia: ricordisi di che l'algoritmo di Google, che classifica le persone di colore come i gorilla; чатбот Microsoft, che è diventato un nazista in meno di un giorno; auto Tesla, che lavora in modalità pilota automatico, in cui si è verificato l'incidente mortale. Questi esempi sbagliati ricevuto sproporzionatamente grande attenzione dei media, sottolineando l'ordine di ciò che non possiamo fare affidamento sulla tecnologia. L'apprendimento non è affidabile al 100%, in parte perché la sua proiettano le persone.

la Scissione di società?

I Sentimenti che provoca l'intelligenza artificiale, vanno in profondità nella natura dell'essere umano. Recentemente, gli scienziati hanno condotto un esperimento, durante il quale, intervistato persone che hanno visto il film di intelligenza artificiale (fantastici), in tema di automazione nella vita quotidiana. Si è scoperto che non importa, è stato l'IA nel film è rappresentato in modo positivo o in modo negativo, facile visualizzazione cinematografica di presentazione del nostro futuro tecnologico polarizza le relazioni dei partecipanti. Gli ottimisti sono ancora più ottimisti, e gli scettici si chiudono ancora di più.

Questo suggerisce che le persone pregiudizi nei confronti di IA, a partire dalle proprie ragionamento, è profondamente radicata tendenza pregiudizi di conferma: la tendenza a cercare o interpretare le informazioni in modo da confermare in anticipo rese concetto. Quanto AI sempre più spesso intravisto in media, può promuovere la profonda divisione della società, la scissione tra chi gode di IA, e chi lo rifiuta. Prevalente gruppo di persone può ottenere un vantaggio o un handicap.

Tre per uscire dalla crisi di fiducia IA

Per fortuna, abbiamo un pensiero, su come affrontare con fiducia alla IA. Uno solo di avere esperienza con l'IA può migliorare significativamente l'atteggiamento delle persone verso questa tecnologia. Ci sono anche prove che indicano che più spesso si utilizza determinate tecnologie (ad esempio, Internet), più si hannodi fiducia.

Un'Altra soluzione potrebbe essere quello di aprire la «scatola nera» di algoritmi di apprendimento automatico e di rendere il loro lavoro più trasparente. Aziende come Google, Airbnb e Twitter, già pubblicano rapporti di trasparenza, pubblica le richieste e divulgazione di informazioni. Questa pratica nei sistemi di intelligenza artificiale aiuta le persone a ottenere la giusta comprensione di come gli algoritmi prendono le decisioni.

Gli Studi dimostrano che il coinvolgimento delle persone nel processo decisionale IA aumentare anche il grado di fiducia e permetterà AI studiare sull'esperienza umana. La ricerca ha dimostrato che le persone che hanno dato la possibilità di modificare leggermente l'algoritmo di sentire la grande soddisfazione dei risultati del suo lavoro, a quanto pare, a causa di un senso di superiorità e la possibilità di influenzare il risultato futuro.

Non Abbiamo bisogno di comprendere il complesso funzionamento interno di sistemi di intelligenza artificiale, ma se fornire alle persone almeno un po ' di informazioni e di controllo su come questi sistemi sono stati realizzati, avranno più fiducia e desiderio di accettare l'IA nella vita quotidiana.