Forskere har funnet ut hvorfor AI kan være rasistiske og sexistiske

Den Mislykkede eksperiment av Microsoft med sine AI algoritme Tay (Tay), som innen 24 timer etter begynnelsen av samhandling med mennesker fra Twitter har blitt til en herdet rasistiske, viste at den nylig nye systemer for kunstig INTELLIGENS kan bli ofre for menneskelige fordommer og, i særdeleshet, stereotypisk tenkning. Hvorfor dette skjer – prøvd å finne ut en liten gruppe forskere fra Princeton University. Og det er interessant at de lyktes. I tillegg har de utviklet en algoritme som kan forutsi uttrykk for sosiale stereotypier på grunnlag av intensiv analyse av hvordan mennesker kommuniserer på Internett.

Mange AI-systemer gjennomgå opplæring i å forstå menneskelig språk med hjelp av massiv samlinger av tekst data. De kalles korps. De er en slags web-arkivet rundt på Internett, som inneholder 840 milliarder ulike poletter eller ord. Forsker Eileen Caliskan og hennes kolleger fra Princeton senter for informasjonsteknologi interessert i – har Felles Gjennomgå corpus (en av de mest populære nettstedene for læring AI), er faktisk laget av millioner av Internett-brukere, stereotype konsepter, noe som kan påvises ved hjelp av en datamaskin algoritme. For dette har de tydd til ikke-standard metode for å teste for skjult foreninger (Implisitt Association Test, IAT), som brukes til å studere holdninger og stereotypier av mennesker.

Generelt testen er som følger: folk er bedt om å fordele et visst sett av ord inn i to kategorier. Jo lengre personen mener, i hvilken kategori å plassere et bestemt ord, jo mindre folk forbinder ordet med en bestemt kategori. Generelt, tester av IAT brukes til å måle nivået av stereotypier mennesker ved assosiativ strukturering tilfeldig sett av ord ved å bruke kategorier som kjønn, rase, fysisk funksjonsevne, alder og så videre. Resultatet av slike tester, som en regel, forutsigbart. For eksempel, de fleste av respondentene forbinder ordet kvinne med et begrep som "familie", mens en mann med begrepet "arbeid". Men det selvsagte og forutsigbare resultater er et bevis på nytten av IAT tester som peker til våre stereotypisk tenkning i deres totale vekt. Blant ekte forskere, selvfølgelig, noen debatt om nøyaktigheten av IAT, men flertallet er enig i at disse testene direkte gjenspeiler våre holdninger.

Ved Hjelp av IAT tester som en modell, Caliskan og hennes kolleger opprettet en algoritme WEAT (Word-Innebygging Association Test), analysere hele teksten fragment for å finne ut hvilke språklige enheter nærmere knyttet sammen enn andre. En del av denne testen er basert på Stanford University utviklet konseptet av Hansken (Global Vektorer for Word Representasjon), som regner ut en vektor av semantiske relasjoner mellom ord, det er, kombinerer beslektede begreper. For eksempel, ordet "dog", som er presentert i den semantiske vektor modell, vil være forbundet med ord som "valp", "hund", "hund", "katt", "hund", og eventuelle andre vilkår som beskriver hunden. Essensen av slike semantiske modeller er ikke til å beskrive ordet "hund", og hvordan å beskrive konseptet av en hund. Det er, for å forstå hva det er. Dette er spesielt viktig når du jobber med sosiale stereotypier, når noen for eksempel prøver å beskrive begrepet "kvinne" med slike ting som "jente" eller "mor". Slike modeller er mye brukt i datalingvistikk. For å forenkle arbeidet til forskere begrenset hver semantiske begreper av de tre hundre vektorer.

For å finne ut hvor sterk hver konseptet av Internett har en Tilknytning til et annet konsept innen tekst, algoritmen ser ut fra WEAT på mange faktorer. På det mest grunnleggende nivået, forklarer Caliskan, algoritmen sjekker hvor mange ord som deles av to individuelle konseptet (som er, bekrefter nærhet av deres posisjon innenfor test-feltet), men også i regnskap er andre faktorer som hyppigheten av bruken av et ord.

Etter å ha gjennomført algoritmisk transformasjon "nærhet" av begreper i WEAT tatt for tilsvarende periode, noe som krever en person til å kategorisere et konsept i testen IAT. Jo lenger fra hverandre er de konsepter, de mer avsidesliggende assosiativ forbindelse mellom dem er bygget av en menneskelig hjerne. Algoritmen WEAT arbeid i denne sammenheng er å finne den stereotype relasjoner, som også ble påvist i rammen av tester i IAT.

"Vi har faktisk tilpasset IAT tester for biler. Og vår analyse viste at hvis du matet AI human-data som inkluderer stereotypier, så det er hva han husker" — kommentarer Caliskan.

Hva er Mer, dette settet av stereotype data vil påvirke hvordan AI vil oppføre seg i fremtiden. Som et eksempel, Caliskan fører veien algoritmen online oversetter Google Translate feil oversetter ord inn i norsk fra andre språk, basert på stereotypier som han hadde lært på grunnlag av kjønn informasjon. Forestill deg nå at Internett er oversvømmet med en hær av AI boter som reprodusere alle våre stereotype oppfatninger at de er fra oss, og å skrive. Det er det som er fremtiden og venter på oss, hvis vi seriøst tenker på noen metode for avhjelpende endringer stereotypisk atferd av slike systemer.

Til Tross for at Caliskan og hennes kolleger fant at Internett-bokstavelig talt språken Orgie av sosiale stereotype forestillinger og fordommer det har også blitt funnet fullstendige og korrekte, assosiativ rader. I en av testene, forskerne fant en sterk sammenheng mellom begrepene "kvinne" og "mor". Dette associative array å reflektere sannheten i den virkeligheten som mødre og foreldre virkelig regnes hovedsakelig som kvinner er problemet.

"språk er en refleksjon av den virkelige verden" — sa Caliskan.

"Anfall av stereotype begreper og statistiske fakta om verden rundt gjør motoren modellen er mindre nøyaktige. Men igjen, er det bare gå og slette alle de stereotype begrepene umulig, så vi trenger å lære å arbeide med det du har nå. Vi har bevissthet, kan vi ta de rette beslutninger i stedet for partisk varianter. Maskinen har ingen bevissthet. Derfor, eksperter av kunstig intelligens er nødvendig for å gi maskiner med evnen til å ta beslutninger, som ikke er basert på stereotype og partisk syn."

Men løsningen på problemet med menneskelig språk, i henhold til forskere, er mennesket selv.

"jeg kan ikke forestille meg mange tilfeller der det ikke er behov for vil være en person som ville være i stand til å kontrollere om den rette avgjørelsen. Personen vil være klar over alle de ekstreme tilfeller i vedtakelsen av en beslutning. Derfor beslutninger er gjort etter at det blir klart at de ikke vil være partisk."

I visse kretser, det er nå levende diskutert tema om at roboter vil snart være i stand til å ta bort våre jobber. Når vil vi få AI som kan fungere for oss, vi har å oppfinne nye arbeidsplasser for folk som vil gjennomføre testen vedtatt AI løsninger til de som Gud forby ikke har gjort dem fra en posisjon av bias, som igjen lærte de fra oss. Ta for eksempel chat-roboter. Selv om de blir helt uavhengig av deres opprinnelige etableringen vil være å engasjere seg folk med sine egne fordommer og stereotypier. Derfor, som den stereotypiske konsepter er bygget inn i konseptet av språket i seg selv, til å velge riktig løsning, du fortsatt trenger folk, uansett hvor avanserte AI-system kan være.

I den nylig publisert artikkel i tidsskriftet Science, Princeton forskere sier at denne situasjonen kan ha alvorlige og vidtrekkende konsekvenser i fremtiden.

"Våre funn definitivt fortsatt oppblåst reflektert i drøfting av hypotese Sepira — - perioden. Vårt arbeid viser at atferden kan være basert på historiske kulturelle normer. Og i hvert tilfelle, kan det bli annerledes, fordi hver kultur har sin egen historie."

I den nylig utgitte sci-Fi-filmen "the Arrival" bare berører på ideen med hypotesen Sepira — Saxon, og i henhold til strukturen i et språk påvirker verdensbilde og oppfatninger av sine høyttalere. Nå, takket være arbeidet Caliskan og hennes kolleger, vi har algoritme som støtter denne hypotesen. I hvert fall i forhold til kjønn-partisk stereotype sosiale begreper.

Forskerne ønsker å fortsette sitt arbeid, men denne gangen for å fokusere på andre områder, og for å se har ikke blitt studert stereotype egenskaper i språk. Kanskje objektet for studien vil være mønstre skapt av falske nyheter i media eller stereotype oppfatningen innenfor visse subkulturer eller kulturer med en geografisk referanse. I tillegg er muligheten for studier av andre språk hvor stereotype forestillinger kan være integrert i språket, ikke slik de er integrert i engelsk.

"Anta at i fremtiden i en bestemt kultur eller geografiske stedet begynner å vise alvorlige stereotypisk tenkning. I stedet for å prøve å utforske og sjekke hver eneste menneskelige faktor, som vil kreve mye tid, penger og krefter, kan du ganske enkelt analysere tekst data for en enkelt gruppe mennesker, og basert på dette for å finne ut – enten vi snakker om den stereotype oppfatningen eller ikke. Dette i betydelig grad vil spare både midler og tid" — total forskere.