Människor som inte lita på AI. Hur man fixar det?

Artificiell intelligens är redan kunna förutsäga framtiden. Polisen använda det för att framställa kartor som speglar när och där det kan vara ett brott. Läkare använder det för att förutsäga när en patient kan få en stroke eller en hjärtattack. Forskare försöker att ge AI fantasi, så att han kan förutse det oväntade händelser.

Många beslut i våra liv kräver bra prognoser och agenter AI nästan alltid göra bättre med dem än människor. Dock, alla dessa tekniska framsteg vi fortfarande saknar förtroende i prognoserna, vilket ger artificiell intelligens. Människor är inte vana vid att förlita sig på AI och föredrar att lita på experterna i människors ansikten, även om dessa experter har fel.

Om vi vill artificiell intelligens nytta för människor, vi behöver lära oss att lita på honom. För detta behöver vi förstå varför folk är så envist vägrar att lita på AI.

Litar på Dr. Robot

Ett Försök av IBM att tillhandahålla supercomputing program onkologer (Watson för Onkologi) har högsta grad missat. AI lovat att ge rådgivning och hög kvalitet på behandlingen av 12 typer av cancer, som stod för 80% av fallen i världen. Hittills har mer än 14 000 patienter som fått rekommendationer på grundval av sina beräkningar.

Men när läkarna första möte med Watson, de befann sig i en ganska svår situation. Å ena sidan, om Watson gav anvisningar om behandling, vilket sammanfaller med deras egna åsikter, läkare har inte sett ett stort värde i rekommendationer av AI. Superdatorn var bara tala om för dem vad de redan visste, och dessa rekommendationer inte ändra själva behandlingen. Detta kan ge läkare trygghet och förtroende i sina egna beslut. Men IBM har inte visat att Watson inte ökar överlevnaden i cancer.

På den andra sidan, om Watson har gjort rekommendationer som skilde sig från experter, läkare konstaterade att Watson är inkompetent. Och maskinen kunde inte förklara varför behandlingen bör arbeta, eftersom dess maskinlärande algoritmer var alltför komplicerat för att kunna förstå människor. Detta ledde till ännu större misstro, och många läkare helt enkelt ignorerade rekommendationer av AI, som förlitar sig på sin egen erfarenhet.

Som ett resultat av de viktigaste medicinska partner till IBM Watson — MD Anderson Cancer Center nyligen rapporterade waiver-programmet. Danska sjukhuset rapporterade också att de lämnar programmet efter att det konstaterats att onkologer inte håller med Watson i två fall av tre.

Problemet med onkologiska Watson var att den läkare han inte bara lita på. Folkets förtroende beror ofta på att vår förståelse för hur andra människor tänker och erfarenheter som stärker förtroendet för sin åsikt. Det skapar en psykologisk känsla av trygghet. AI, å andra sidan, ett relativt nytt och förvirrande sak för människor. Han gör beslut baserade på komplexa system analys för att fastställa eventuella dolda mönster och svaga signaler som uppkommer från stora mängder data.

Även om det är möjligt att förklara de tekniska språket, beslutsprocessen för AI är oftast alltför komplex för att kunna förstås av de flesta människor. Interaktion med något som vi inte förstår kan orsaka ångest och skapa en känsla av förlust av kontroll. Många människor förstår helt enkelt inte hur AI fungerar, eftersom det händer någonstans bakom skärmen, i bakgrunden.

För denna anledning, de är fuskare märkt fall när AI gör ett misstag: kom ihåg att Googles algoritm, som klassificeret färgade människor som gorillor, chatbot Microsoft, som blev en Nazist på mindre än en dag; Tesla arbetar på autopilot, som hade en olycka med dödlig utgång. Dessa dåliga exempel har fått en oproportionerligt stor uppmärksamhet i massmedia, med betoning på agendan att vi inte kan lita på tekniken. Maskininlärning är inte 100% tillförlitligt, delvis på grund av sin utformning människor.

uppdelning av samhället?

Den känsla av artificiell intelligens, gå djupt in i den mänskliga naturen. Nyligen har forskare genomfört ett experiment som har intervjuat personer som såg filmer om artificiell intelligens (fantastiskt), om ämnet automation i vardagen. Det visade sig att oavsett var AI i filmen skildras på ett positivt eller negativt sätt, att bara titta på en filmisk representation av vår teknologiska framtid polariserar inställning av deltagarna. Optimisterna bli ännu mer optimistisk, men skeptiker är stängt ännu starkare.

Detta tyder på att folk är fördomsfulla mot AI, med utgångspunkt från sina egna resonemang, är djupt rotad tendens partisk bekräftelse: tendensen att söka eller tolka information på ett sådant sätt att bekräfta redan existerande koncept. Eftersom AI: n är ofta nämns i media, det kan främja djupt splittrat samhälle, split mellan dem som använder sig av AI, och de som förkastade den. Den dominerande gruppen av människor kan få en allvarlig fördel eller handikapp.

Tre vägar ut ur krisen förtroende AI

Som tur är har vi tankar om hur man handskas med trovärdighet AI. Man har bara erfarenhet med AI kan avsevärt förbättra attityden hos folk mot denna teknik. Det finns också tecken som tyder på att ju oftare du använder vissa tekniker (t ex Internet), ju mer duförtroende.

En Annan lösning skulle vara att öppna den "svarta lådan" maskinlärande algoritmer och att göra deras arbete mer transparent. Företag som Google, Airbnb och Twitter, redan offentliggöra rapporter om öppenhet och insyn på regeringens begäran och utlämnande. Denna praxis i AI-system kommer att hjälpa människor att få rätt kunskap om hur algoritmer för att fatta beslut.

Studier visar att delaktigheten i beslutsprocessen av AI kommer att öka förtroende och ge AI för att studera den mänskliga erfarenheten. Studien visade att personer som gavs möjlighet att lätt ändra algoritm, kände stor tillfredsställelse från resultaten av sitt arbete, uppenbarligen på grund av känslor av överlägsenhet och inflytande på det framtida resultatet.

Vi behöver inte förstå den komplexa inre arbetet i AI-system, men om du ge människor åtminstone lite information och kontroll över hur dessa system implementeras, de kommer att ha mer förtroende och vilja att göra AI i vardagen.