Mörka data: artificiell intelligens som lär sig att identifiera och homosexuella i foto

Vi har blivit förlita sig på maskinen lärande system i allt från att skapa spellistor för att styra bilar, men som alla verktyg, kan de användas i en farlig och oetiska ändamål, ens av misstag. Dagens illustration av detta faktum — en ny artikel av forskare från Stanford som skapade ett system för lärande, som de hävdar, kan tala om för dig flera foto... bög framför dig. Eller inte.

Självklart, denna studie är förvånande och nedslående på samma sätt. Förutom det faktum att utsatta grupper av människor återigen kommer att bli föremål för systematiska intrång i privatlivet och förtroliga teman, detta påverkar direkt jämlikt uppfattningen att vi inte kan (och bör inte) döma en person som genom sitt utseende, och inte har rätt att gissa sexuella läggning för en eller två bilder. Absurt? Den noggrannhet som redovisas i arbete, men lämnar inget utrymme för tvivel: det är nu inte bara möjligt, men det görs.

Systemet plockar upp emanationer mycket mer subtila än kan vosprinimat människor se den ledtråd, som du inte ens vet. Och det visar avsedda som integritet, privatliv i en tid präglad av den allestädes närvarande datorn vision kan enkelt förstöras.

Innan du fortsätter till diskussion av själva systemet, är det nödvändigt att förtydliga att studien genomfördes med goda avsikter. De frågor, naturligtvis, det finns otaliga. Mest relevanta, kanske var de anmärkningar av Michal Kosinski och Elon Wong till varför det arbete som faktiskt såg ljus:

"Vi var mycket oroade över dessa resultat och tillbringade en hel del tid att göra dem offentliga. Vi ville inte utsätta folk för att de risker som de var varnade. Möjligheten att styra när och till vem för att avslöja sin sexuella läggning, är avgörande inte bara för den mänskliga välfärden, men också för hans säkerhet."

"Vi trodde att lagstiftarna och HBTQ-samhället måste vara medvetna om riskerna. Vi gjorde inte skapa ett verktyg för intrång i privatlivet, men som snarare visade att enkla och allmänt använda metoder utgöra ett seriöst hot till livet."

Absolut, detta är bara en av många systematiska försök att extrahera hemlig information såsom sexualitet, emotionella tillstånd, eller journaler. Men i detta fall ännu mer allvarligt av flera skäl.

för att Se att det är omöjligt (och inte nödvändigt)

I en artikel som publicerades i Journal of Personality and Social Psychology, beskriver i detalj en ganska vanlig strategi som bygger på inlärning, vars uppgift är bestämning av möjligheten att identifiera personer som bög eller inte i deras ansikten. Obs: arbete är fortfarande i form av ett utkast till.

Med Hjälp av en databas med bilder av ansikten (som togs från Dating webbplatser med öppen data), forskare samlades 35 326 bilder 14 776 personer, bland vilka var lika representerade homosexuella män och kvinnor. Deras ansiktsdrag extraherades och beräknas från den form av näsa och ögonbryn för att ansiktshår och ansiktsuttryck.

Det neurala Nätverket djupt lärande åt alla dessa funktioner, märker som vanligtvis är förknippade med en viss sexuell läggning. Om forskarna inte är "seedade" det med förutfattade meningar om hur det oftast är personer med normal-eller homosexuell läggning. systemet helt enkelt tilldelade funktioner och korreleras dem med sexuella preferenser.

Dessa mönster kan nås för att låta datorn att gissa sexuella preferenser av personen och det visade sig att AI-system som är mycket bättre på att hantera denna uppgift än människor. Algoritmen var möjligt att korrekt bestämma orienteringen för 91% av männen och 83% kvinnor, två på en gång. De människor som föreskrivs dessa bilder har rätt i 61% och 54% av fallen, respektive — det är en slantsingling skulle ge samma resultat.

Variationerna mellan de fyra grupperna som beskrivs i den andra artikeln, bortsett från det uppenbara beteendemässiga skillnader, som uppvaktar samma koncern eller en liknande makeup, den Allmänna trenden i närvaro av "kvinnliga" egenskaper hos homosexuella män och "manliga" egenskaper i lesbiska.

figuren visar, där funktioner som anger sexuell läggning

Det Bör noteras att noggrannheten i systemet var uppnås under ideala förhållanden valet mellan två människor, en av dem är homosexuella. När systemet utvärderades i en grupp på 1 000 individer, varav endast 7% tillhörde homosexuella personer (för mer representativitet är den faktiska andelen av befolkningen), resultatet var inte det bästa. I bästa fall ett urval av 10 personer redovisas med 90% noggrannhet.

Det är också en konkret risk för bias i systemet på grund av att data: för det första, de ingår endast unga vita Amerikaner av den typ av man/kvinna och homosexuell/normal.

"Trots våra försök att få ett mer varierat urval, vi var begränsad till studiet av vit deltagare från Usa. På grund av fördomar mot homo-och användningen av online-Dating webbplatser är ojämnt fördelad mellan olika etniska grupper, vi kunde inte hitta en tillräckligt många icke-vita homosexuella medlemmar."

Även om forskarna tyder på att andra etniska grupper kommer att ha liknande ansiktsuttryck och systemet kommer också vara effektivt att definiera, i själva verket är det nödvändigt att bekräfta och inte för att ta.

Det kan hävdas att en klassificerare samlas in, de karakteristiska dragen av folk på dejtingsajter, inte utan hjälp av mekanismen för egna val, till exempel Amerikanska män med en normal sexuell läggning kan medvetet undvikit utseende, som skulle visa att de kan vara homosexuella.

Naturligtvis, den verkliga effektiviteten i detta system rimligen ifrågasättas, eftersom det är utbildade baserat på den begränsade mängd data och mest effektiva exempel från denna pool. Ytterligare forskning kommer att vara nödvändig. Det verkar dock vara så kortsynt att anta att systemet är omöjligt.

sanningen

Många hävdar att denna teknik är inte bättre än "frenologi 2.0", skal när icke-närstående fysiska egenskaper med komplexa interna processer, och det är förståeligt, men inte sant.

"Fysionomi är nu allmänt och med rätta avvisas som en kombination av vidskepelse och rasism förklädd till vetenskap," forskarna skriver i inledningen till arbetet (fysionomi att döma av ansiktsdrag, medan phrenologists studerade formen på skallen). Men denna pseudo vetenskap har misslyckats på grund av att dess anhängare var på väg i motsatt riktning. De bestämde sig för vem som var inblandad i "brottmål" eller "sexuella avvikelser", och sedan bestämma vilka funktioner som är gemensamma för sådana människor.

Det Visade sig att folk bara inte klara sig bra med sådana uppgifter, som vi ser människor som för mycket av mig själv och göra instinktiva slutsatser. Men detta betyder inte att de synliga funktioner och fysiologin eller psykologin är inte relaterade. Ingen tvivlar på att maskinen kan markera i människor de egenskaper som de inte ser, från de små kemiska spår av explosiva granater och droger för att de subtila mönster på MRT, som berättar om en början cancer.

Ur artikel av detta följer att computer vision system väljer samma subtila mönster, både konstgjorda och naturliga, men främst de senare. forskarna försökt att fokusera på egenskaper som inte kan ändras lätt. Detta stöder hypotesen att sexualitet är biologiskt bestämd, kanske under inflytande av olika faktorer för utvecklingen av fostret, vilket kan resultera i att små fysiologiska skillnader och hormonella mönster av överklagandet. Det observerade systemet mönster liknar de som förutsägs av teorin om prenatala hormoner.

Detta är utgångspunkten för en bredare sociala och filosofiska debatter om kärlek, sexualitet, determinism och intelligens, känslor och personligheter till enkla biologiska egenskaper. Men vi vann inte. Bättre touch på andra viktiga frågor som rör sekretess.

de Faror och begränsningar

Effekterna av automatisk bestämning av läggning av människan på flera foton av den enorma, först och främst och viktigast av allt, för att sätta folk i HBTQ-grupper riskerar hela världen på de platser, där de förblir förtryckta minoritet. Eventuellt missbruk av ett sådant system är enorm och en del kan med rätta missnöjda med beslutet av forskare om sitt skapande och dokumentation.

Men på samma sätt som du skulle kunna argumentera att det är bättre att kunna öppna den, för att genomföra motåtgärder eller på annat sätt för att tillåta människor att förbereda sig för det. Skillnaden är att du kan dölja den information du lägger ut på nätet, du kan inte styra vem som kan se ditt ansikte. Det regleras av samhället i vilket vi lever, och dolda från vanlig uppfattning är mindre och mindre.

"Även de bästa av lagar och teknik för att skydda den personliga integriteten, i vår mening, dömt att misslyckas," forskarna skriver. "Den digitala miljön är mycket svårt för polisen; data kan enkelt överföras över gränsen, att stjäla eller att spela in utan samtycke".

Denna fråga är oändligt komplex, men det visar på den fantastiska möjligheter för artificiell intelligens. Konsekvenserna av en sådan teknik, som vanligt, tvetydig, men mycket intressant för framtiden för mänskligheten och den enskilda individen. Forskarna själva är inte särskilt optimistisk om användningen av sådan teknik i framtiden, men är realistisk i en tid när tekniken, som det förväntas planen för frälsning, som mest troligt kommer att spela skurken.

"Vi tror att ytterligare urholkning av privata livet är oundviklig, och säkerheten av homosexuella och andra menshinstv beror inte på rätten till integritet och respekt för mänskliga rättigheter och tolerans i samhället och staten", skriver de. "Till världen i en tid präglad av post-integritet var tryggare och mer välkomnande, det behöver för att fylla välutbildade människor är radikalt intolerant mot intolerans".

- Teknik kommer inte att rädda oss från oss själva.

material Techcrunch