Försäkringskassans användning av AI

Skriftlig fråga 2024/25:728 av Isabell Mixter (V)

till Statsrådet Anna Tenje (M)

Lighthouse Reports och Svenska Dagbladet har granskat Försäkringskassans system för att upptäcka felaktiga utbetalningar med hjälp av artificiell intelligens (AI). Granskningen visar att systemet flaggar marginaliserade grupper för utredningar om bidragsbedrägerier på ett orättvist sätt.

Systemet flaggade på ett oproportionerligt sätt vissa grupper för vidare utredning av bedrägerier med sociala förmåner. Bland de grupper som drabbas finns kvinnor, personer med utländsk bakgrund, låginkomsttagare och personer utan universitetsexamen.

Systemet, som har använts sedan 2013, tilldelar riskpoäng beräknade av en algoritm till socialförsäkringssökande för att upptäcka bedrägerier med sociala förmåner.

Det finns sedan tidigare en oro för inbyggd partiskhet i det system som används av Försäkringskassan. ISF konstaterade i en rapport från 2018 att den algoritm som används av myndigheten ”i sin nuvarande utformning inte uppfyller kraven på likabehandling”. Försäkringskassan menade att analysen var bristfällig och vilade på tvivelaktiga grunder.

Ett dataskyddsombud som tidigare arbetat för Försäkringskassan varnade under 2020 för att hela verksamheten strider mot EU:s dataskyddsförordning, eftersom myndigheten inte har någon rättslig grund för att profilera människor.

Mot denna bakgrund vill jag fråga statsrådet Anna Tenje:

Avser statsrådet att ta några initiativ med anledning av de återkommande uppgifterna om brister i Försäkringskassan AI-system för att upptäcka felaktiga utbetalningar?