I vårt partiprogram har vi flera gånger lyft fram hur artificiell intelligens kan användas för att förbättra samhällstjänster, effektivisera vården och skapa smartare lösningar för medborgarna. AI ses som ett verktyg för utveckling och innovation, men samtidigt måste vi vara medvetna om att teknologin inte är neutral. Den speglar de data den tränas på, och historiska fördomar riskerar att reproduceras om vi inte agerar medvetet.
Detta blir särskilt viktigt nu när AI används allt mer inom servicebranschen, i hälso- och sjukvården och i offentliga sektorn. Algoritmer tar över kundsupport, prioriterar vårdinsatser och fattar beslut i socialtjänstbedömningar. Ju mer AI får styra dessa vardagliga tjänster, desto större blir konsekvenserna om systemen är partiska.
Vi har redan konkreta exempel på könsbias i AI. Rekryteringsverktyg som utvecklats av stora företag har undervärderat kvinnliga kandidater, särskilt inom tekniska yrken, eftersom algoritmerna tränats på historiska data där män dominerat. Inom medicinsk diagnostik har AI-system visat sig mindre precisa för kvinnor, eftersom forskningen ofta sker på män. Även socialtjänstsystem som använder AI kan förstärka skillnader, till exempel genom att nedtona kvinnors hälsoproblem i bedömningar, medan samma ärenden uppmärksammas mer hos män.
EU:s AI-förordning är ett viktigt steg framåt, men den har också blindfläckar. Förordningen fokuserar främst på högrisk-AI, medan låg- och medelriskapplikationer som rekryteringssystem, algoritmer i utbildning och marknadsföring inte omfattas av samma rigorösa tester för bias. Det finns också bristande vägledning om hur bias faktiskt ska upptäckas och hanteras i praktiken. Dessutom riskerar subtil eller intersektionell bias att förbises helt.
Om AI används på fel sätt kan det alltså ha allvarliga konsekvenser i vårt samhälle,
Det kan cementera ojämlikhet, göra kvinnor och minoriteter osynliga i samhällstjänster och underminera tilliten till offentliga institutioner. Samhället försvagas när kompetens går förlorad, beslut blir ineffektiva och digital teknik upplevs som orättvis.
Vi har hittills följt EU:s arbete och förberett oss för AI-förordningen som träder i kraft, men de befintliga nationella strategierna fokuserar främst på innovation och digitalisering, inte på etik, tillsyn och jämställdhet. Vi behöver krav på neutralitet, testning och transparens även i låg- och medelrisk-AI, särskilt i system som påverkar människors vardag.
Genom dessa åtgärder kan AI bli ett verktyg som stärker jämställdhet, samhällsstabilitet och nationell säkerhet. Det är vårt ansvar att säkerställa att digitalisering och AI utvecklas på ett sätt som tjänar alla medborgare.
Ellinor Juth
Vice ordförande, Svenska Kvinnoförbundet
Foto: Frida Lönnroos
