AI-driven politisk desinformation

Skriftlig fråga 2024/25:1274 av Aida Birinxhiku (S)

till Justitieminister Gunnar Strömmer (M)

Utvecklingen inom artificiell intelligens har på kort tid skapat nya möjligheter att manipulera digitalt innehåll. Med hjälp av så kallade deepfakes, det vill säga avancerade AI-genererade bilder, videor och ljudklipp, kan offentliga personer framställas som om de säger eller gör saker som aldrig har inträffat. Sådant material riskerar att få stor spridning i digitala miljöer och kan användas för att påverka opinionen på ett vilseledande sätt.

Särskilt i samband med valrörelser kan denna typ av innehåll användas för att underminera förtroendet för det demokratiska systemet. Det kan röra sig om inlägg, annonser eller annat material som medvetet vilseleder mottagaren. Ofta framgår varken vem som är avsändare eller det bakomliggande syftet.

Barn och unga är särskilt sårbara i detta sammanhang. De exponeras dagligen för politiska budskap i sociala medier, där gränsen mellan fakta och desinformation inte alltid är tydlig. I avsaknad av tydliga regler för åldersverifiering, innehållsansvar och märkning av manipulerat material riskerar barn och unga att påverkas av felaktig, förenklad eller avsiktligt manipulerad information i politiskt syfte.

Flera europeiska länder har redan vidtagit åtgärder för att reglera politisk påverkan i digitala miljöer. I Sverige pågår diskussioner om AI:s möjligheter och risker, men frågan om AI-genererad politisk desinformation aktualiserar behovet av en bredare översyn. Det kan bland annat handla om att tydliggöra ansvarsfördelningen för digitala plattformar, åldersverifiering vid kontoregistrering, skärpta sanktioner mot aktörer som sprider desinformation samt nya verktyg för att upptäcka och märka AI-genererat innehåll. När det gäller barn och unga är behovet av skydd, som tidigare påpekats, särskilt angeläget.

Mot bakgrund av detta är min frågeställning till justitieminister Gunnar Strömmer följande:

Vilka åtgärder avser ministern att vidta, inom sitt ansvarsområde, för att skydda i synnerhet barn och unga från politisk desinformation i digitala miljöer?