Åtgärder mot deepfakes och AI-driven desinformation

Motion 2024/25:1262 av Aida Birinxhiku (S)

Förslag till riksdagsbeslut

Riksdagen ställer sig bakom det som anförs i motionen om att utreda förutsättningarna för att motverka spridning och användning av deepfakes och annan AI-driven desinformation och tillkännager detta för regeringen.

Motivering

Den tekniska utvecklingen har möjliggjort skapandet av AI-genererade bilder, filmer och röster som, trots att de är manipulerade, framstår som äkta och trovärdiga. Dessa så kallade deepfakes har på kort tid fått stor spridning, särskilt i desinformationskampanjer och bland kriminella aktörer. Syftet med deepfakes är ofta att vilseleda, bedra och manipulera såväl enskilda individer som hela samhällen.

Spridningen och användningen av deepfakes medför allvarliga konsekvenser för inte bara den personliga integriteten och den allmänna säkerheten utan även för vår demokrati. Deepfakes används i politiska kampanjer världen över för att sprida falsk information och på så sätt påverka valresultat och den allmänna opinionen. Genom att undergräva förtroendet för myndigheter och samhällsinstitutioner syftar dessa AI-manipulationer till att försvaga tilltron till demokratin.

Förutom den politiska påverkan finns det också ett växande problem med deepfakes i samband med bedrägerier. Bedragare använder denna teknik för att skapa falska annonser eller för att lura individer, särskilt äldre, genom att imitera röster från deras nära och kära. Detta är inte bara en tragedi för de drabbade individerna, utan det underminerar även den grundläggande tilliten mellan människor i samhället.

Det är viktigt att Sverige, i likhet med andra EU-länder, vidtar kraftfulla åtgärder för att motverka denna form av AI-manipulation. Ny lagstiftning är en central del av lösningen, men det är uppenbart att detta inte är tillräckligt. Det krävs betydande investeringar i ny teknik som kan upptäcka och avslöja deepfakes. Dessutom behövs breda utbildningsinsatser för att höja allmänhetens kunskap och medvetenhet om dessa hot.

Sverige måste ligga i framkant i arbetet mot deepfakes och AI-driven desinformation. Det rådande omvärldsläget kräver krafttag för att skydda vår demokrati, tilliten i samhället och enskilda individers integritet från detta växande hot.

Aida Birinxhiku (S)