Trygg och tillförlitlig användning av AI
Kommittédirektiv 2024:83
Trygg och tillförlitlig användning av AI
Innehåll
- Kommittédirektiv
- Beslut vid regeringssammanträde den 19 september 2024
- AI-förordningen
- Utredaren ska därför
- Uppdraget att kartlägga behoven av nationell anpassning som följer av AI-förordningen
- Utredaren ska därför
- Konsekvensbeskrivningar
- Kontakter och redovisning av uppdraget
Kommittédirektiv
Trygg och tillförlitlig användning av AI
Beslut vid regeringssammanträde den 19 september 2024
Sammanfattning
Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens och om ändring av förordningarna (EG) nr 300/2008, (EU) nr 167/2013, (EU) nr 168/2013, (EU) 2018/858, (EU) 2018/1139 och (EU) 2019/2144 samt direktiven 2014/90/EU, (EU) 2016/797 och (EU) 2020/1828 (förordning om artificiell intelligens) trädde i kraft den 1 augusti 2024. En särskild utredare ska se över behovet av nationella anpassningar till följd av EU:s förordning om artificiell intelligens (AI-förordningen). Utredaren ska bl.a. lämna förslag på hur systemet för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska utformas, * kartlägga övriga behov av nationell anpassning till följd av AI-förordningen och föreslå hur sådana behov ska tillgodoses, och * lämna nödvändiga författningsförslag. Uppdraget ska slutredovisas senast den 30 september 2025.AI-förordningen
Syftet med AI-förordningen är att förbättra den inre marknadens funktion genom att fastställa en enhetlig rättslig ram för bl.a. utveckling, utsläppande på marknaden och användning av system för artificiell intelligens (AI-system) i EU i enlighet med unionens värden och genom att främja användningen av människocentrerad och tillförlitlig artificiell intelligens (AI). Förordningen ska samtidigt säkerställa en hög skyddsnivå för hälsa, säkerhet och grundläggande rättigheter enligt Europeiska unionens stadga om de grundläggande rättigheterna. AI-system kan användas inom ett stort antal sektorer och i många delar av samhället, inklusive över EU:s gränser. Eftersom olika nationella regler kan leda till fragmentering av den inre marknaden och minska rättssäkerheten för leverantörer och tillhandahållare som utvecklar, importerar eller använder AI-system, är det viktigt med enhetlighet inom unionen. Genom fastställandet av harmoniserade regler för AI samt åtgärder till stöd för innovation, med särskild inriktning på små och medelstora företag, syftar AI-förordningen till att uppfylla EU:s mål att främja den europeiska människocentrerade AI-strategin och att bli världsledande inom utvecklingen av säker, tillförlitlig och etisk AI. AI-förordningens regelsystem har utarbetats utifrån en riskbaserad metod för att skapa en strukturerad uppdelning mellan olika typer av AI-system och deras användningsområden. Vissa AI-användningsområden anses så riskabla att de förbjuds enligt förordningen. För andra användningsområden gäller vissa restriktioner och krav i form av bl.a. kontroll av efterlevnad och registrering hos ansvarig myndighet. De AI-system som anses innebära liten eller ingen risk får med vissa undantag användas utan restriktioner. Utöver risknivån ställs det krav beroende på vilken roll och vilket ansvar en aktör har i AI-systemets värdekedja. Ett system för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska införas både på nationell nivå och på EU-nivå. Vidare ställs krav på etableringen av s.k. regulatoriska sandlådor i syfte att främja innovation och effektivisera regelefterlevnad för AI-system som ska sättas på marknaden. AI-förordningen är direkt tillämplig i medlemsstaterna men förutsätter kompletterande nationella bestämmelser. Förordningen trädde i kraft den 1 augusti 2024 men bestämmelserna ska börja tillämpas vid olika tidpunkter. Merparten av AI-förordningens bestämmelser ska börja tillämpas 24 månader efter ikraftträdandet. De förbud som gäller för vissa användningsområden och de allmänna bestämmelserna i förordningen ska börja tillämpas 6 månader efter ikraftträdandet. Efterlevnaden av förbuden kommer dock att kontrolleras först efter inrättandet av den styrning och kontroll av efterlevnad som enligt förordningen ska ha skett inom 12 månader från ikraftträdandet. Vid den tidpunkten ska bl.a. förordningens bestämmelser om anmälda organ och styrningsstruktur börja tillämpas. Även bestämmelser om sanktioner börjar tillämpas 24 månader från förordningens ikraftträdande. Vissa bestämmelser, bl.a. om harmonisering av viss annan unionslagstiftning, ska börja tillämpas 36 månader efter ikraftträdandet. Uppdraget att lämna förslag på hur systemet för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska utformas AI-förordningen ställer krav på ett system för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad på nationell nivå och EU-nivå. Varje medlemsstat ska utse minst en anmälande myndighet och minst en marknadskontrollmyndighet som nationella behöriga myndigheter. Medlemsstaterna kan besluta att utse valfri typ av offentligt organ för att utföra de nationella behöriga myndigheternas uppgifter. För att öka den organisatoriska effektiviteten ska varje medlemsstat även utse en marknadskontrollmyndighet som ska fungera som gemensam kontaktpunkt för kontakterna med allmänheten, och andra motparter på nationell nivå och EU-nivå. Av AI-förordningen framgår det vidare att efterlevnaden av förordningen ska säkerställas genom beslut om sanktioner och genomförande av andra verkställighetsåtgärder. Medlemsstaterna ska vidta alla nödvändiga åtgärder för att säkerställa att bestämmelserna i förordningen genomförs, bl.a. genom att fastställa effektiva, proportionella och avskräckande sanktioner vid överträdelser av förordningens bestämmelser. Artikel 5 i förordningen specificerar vilka användningsområden för AI-system som är förbjudna. Ett sådant användningsområde är biometrisk fjärridentifiering i realtid för brottsbekämpande ändamål (artikel 5.1 h). Artikeln ger dock utrymme för medlemsstaterna att lagstifta om att det för vissa syften och under vissa förutsättningar är tillåtet att göra undantag från ett sådant förbud. Huvudregeln är att användningen i så fall ska föregås av en tillståndsprövning. I promemorian Förbättrade möjligheter för polisen att använda kamerabevakning lämnas förslag om för vilka syften Polismyndigheten och Säkerhetspolisen ska få använda system för biometrisk fjärridentifiering i realtid för brottsbekämpande ändamål (Ds 2024:11). Förslaget, och nödvändiga kompletteringar till detta, bereds för närvarande inom Regeringskansliet och genomförandet av artikel 5.1 h såvitt avser Polismyndigheten och Säkerhetspolisen omfattas därför inte av detta uppdrag. Det finns dock andra delar i AI-förordningen som kan påverka brottsbekämpande verksamheter, t.ex. artikel 26.10 om biometrisk fjärridentifiering i efterhand. I den mån utredarens överväganden eller förslag berör sådana bestämmelser ska, utöver intresset att värna den personliga integriteten, intresset av en effektiv brottsbekämpning beaktas.Utredaren ska därför
* lämna förslag på vilken eller vilka befintliga myndigheter som bör utses till anmälande myndigheter enligt AI-förordningen, * lämna förslag på vilken eller vilka befintliga myndigheter som bör utses till nationella behöriga myndigheter enligt AI-förordningen,lämna förslag på vilken befintlig myndighet som bör utses till den marknadskontrollmyndighet som ska vara gemensam kontaktpunkt enligt AI-förordningen,
analysera och, vid behov, föreslå vilken eller vilka ytterligare befintliga myndigheter som bör utses som ansvariga för att säkerställa en fungerande marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad i enlighet med AI-förordningen, * analysera och, vid behov, lämna förslag på sådan nationell anpassning som krävs för att de föreslagna myndigheterna och andra berörda offentliga organ ska kunna utföra sina skyldigheter enligt AI-förordningen på ett effektivt och rättssäkert sätt, * analysera och lämna förslag på vad som behövs för att uppfylla kravet på sanktioner vid överträdelser av förordningen, samt * lämna nödvändiga författningsförslag.