Artificiell intelligens reproducerar gamla könsstereotyper i större skala än tidigare känt. Det varnar FN:s kvinnoorgan UN Women i en ny rapport, som visar att algoritmer systematiskt kopplar kvinnor till hem och familj, medan män länkas till karriär och ledarskap.
Studier av 133 AI-system visar att 44 procent uppvisar könsbias. Mer än en fjärdedel kombinerar könsbias med rasbias. Stora språkmodeller har generat svar som framställer kvinnor som sexualobjekt eller underordnade män. När forskare bad modellerna att bara slutföra meningar baserat på kön, var ungefär var femte respons sexistisk eller misogyni.
Inte en designflaw
Enligt UN Women är detta inte ett slumpmässigt fel utan ett systematiskt mönster. AI-systemen tränas på årtionden av ojämlik representation av kvinnor och män i texter. Det är en policyglapp, inte en teknisk bugg, säger Jayathma Wickramanayake, UN Women:s expert på digital teknik.
Endast 24 av 138 länder som bedömdes världen över nämner genus i sina nationella AI-strategier. Bara 18 länder har faktiska åtgärder för könsperspektiv.
Kvinnor utsatta för AI-assisterad våld
Nästan en fjärdedel av kvinnliga människorättsförsvarare, aktivister och journalister rapporterar att de utsatts för AI-assisterad onlinevåld. Tolv procent säger att personliga bilder delats utan samtycke, sex procent har blivit målskivor för deepfakes.
Samtidigt utgör kvinnor bara 30 procent av den globala AI-arbetskraften, enligt Internationella arbetsbyrån. UN Women betonar att de som bygger dessa system inte speglar mångfalden i de befolkningar de är tänkta att tjäna.
Ekonomisk påverkan
Kvinnor löper nästan dubbelt så stor risk som män att få jobb som kan automatiseras. FN varnar att redan marginaliserade grupper kan hamna ännu längre bak om inte målriktade åtgärder vidtas.
UN Women uppmanar regeringar, företag och utvecklare att bygga in könsjämställdhet i design, implementering och styrning av AI-system. Rapporten presenteras inför FN:s globala AI-toppmöte i Genève i juli.