Risker och möjligheter med artificiell intelligens

Fru talman! Josef Fransson har frågat mig vad jag och regeringen gör för att inhämta kunskap om viktiga frågeställningar kring artificiell intelligens och hur jag och regeringen agerar för att maximera nyttan med utvecklingen inom AI samtidigt som riskerna minimeras.

Den 25 maj fattade regeringen beslut om att Digitaliseringsrådet inom Regeringskansliet ska fortsätta sitt arbete i syfte att främja genomförandet av den allmänna digitaliseringspolitiken och främja digitaliseringen av den offentliga förvaltningen. Ledamöterna som sitter i rådet har en bred erfarenhet och kompetens på digitaliseringsområdet, och artificiell intelligens är en viktig fråga som kommer att diskuteras i Digitaliseringsrådet.

I maj anordnade regeringen inom ramen för det svenska EU-ordförandeskapet en konferens om hållbar AI och AI för hållbarhet. Konferensen samlade ledare och experter från den privata och offentliga sektorn, den akademiska världen och civilsamhället för diskussioner om och reflektioner över hur det ska kunna gå att säkerställa en AI-utveckling som inkluderar miljömässig, social och ekonomisk hållbarhet.

Regeringen tog i slutet av januari emot en redovisning av ett uppdrag om främjande av den offentliga förvaltningens användning av AI. Rapporten innehöll även en behovsanalys för att tillgängliggöra gemensam AI-infrastruktur för den offentliga förvaltningen som nu analyseras inom Regeringskansliet. I april tog regeringen också emot en rapport från Tillväxtanalys som handlar om hur AI omvandlar näringslivet och hur AI-politiken för näringslivet kan utvecklas.

Regeringen ökade även insatserna i programmet Avancerad digitalisering, som bygger på en beprövad privat-offentlig samverkansmodell där offentliga aktörer och näringslivets aktörer gemensamt bidrar. Programmet omfattar bland annat AI och annan ny teknik.

Vad gäller frågan om nyttor och risker med AI finns det många nyttor som bör kunna realiseras, till exempel effektivisering genom AI av vissa verksamheter inom den offentliga förvaltningen. Samtidigt är jag också medveten om riskerna med utvecklingen och användningen av AI, särskilt gällande riskerna för kränkningar av grundläggande rättigheter, och såväl etiska risker som hälso- och säkerhetsrisker.

Regeringen välkomnar därför AI-regleringen som håller på att förhandlas inom EU. Utgångpunkten är att reglera tillämpning av AI som kan innebära hög risk, exempelvis AI-system som används för specifika ändamål, snarare än att reglera utveckling av AI som sådan. Förslaget syftar till att skapa förutsägbarhet för utvecklare av AI-system och är tänkt att underlätta för investeringar i AI. Användning av regulatorisk testverksamhet föreslås i syfte att främja innovation samtidigt som regelefterlevnaden säkerställs. Allt detta som jag nu redogjort för bidrar till att öka nyttan och balansera riskerna.

Fru talman! Jag vill börja med att tacka statsrådet Erik Slottner för svaret på min interpellation om risker och möjligheter med artificiell intelligens.

Jag hoppas att både fru talmannen och statsrådet testat att pröva och leka med till exempel Chat GPT och själva skapat sig åtminstone en grundläggande uppfattning om hur häpnadsväckande denna teknik faktiskt är.

Artificiell intelligens är bara i sin linda. Redan nu kan den skapa musik och bilder och till och med programmera datakod. Dagens AI är dock bara en bebis. Tänk vad den tekniken kommer att kunna åstadkomma i sina tonår.

Det är uppenbart att frågor om AI har fått en viss plats i regeringens arbete. Men jag menar att den borde vara långt mycket mer prioriterad. Gemene man verkar ännu inte ha förstått att utvecklingen inom artificiell intelligens kommer att revolutionera vår värld på ett sätt som är fullständigt oöverblickbart.

Möjligheterna är enorma när det kommer till att förbättra människors liv och välfärd. Inte minst är jag övertygad om att utvecklingen kommer att kunna leda till att vi kan bota mer eller mindre alla kända sjukdomar och lösa mängder av andra problem som vi människor står inför.

Personlig AI kommer att bli en superintelligent assistent till var och en i vardagen. Företag kommer att kunna mångdubbla sin produktivitet, och så vidare. Det är naturligtvis sådant som vi ska värna och välkomna.

Jag tror att det är primärt riskerna som vi politiker måste börja ta tag i på allvar. Vi människor har härskat på vår planet därför att vi är mest intelligenta i djurriket. Det är inte minst för att vi har varit osedvanligt bra på att samarbeta med varandra. Genom detta har vi också kunnat dominera i princip alla andra djurarter för mat och kläder men ibland bara sällskap.

Nu står vi på randen av att inte längre vara den mest intelligenta varelsen på jorden. Tekniken rusar mot att datorer med råge kan överträffa oss i intelligens och också i så kallad generell intelligens. Det skulle ungefär kunna beskrivas som att en dator kan lära sig att lösa problem som den helt enkelt inte har programmerats för. Jag hörde bara häromdagen att en AI hade ombetts att lära sig att spela schack. Några timmar senare kunde den slå alla tidigare schackdatorer.

Huruvida en dator kan bli medveten så som vi betraktar oss själva är något som vi kanske får lämna åt filosoferna. Men vi är sannerligen nära att inte kunna se skillnaden. Att en AI snart kommer att uppvisa tecken på självbevarelsedrift ser jag som givet. Den tanken, fru talman, ger mig faktiskt rysningar.

En enkätundersökning säger att hälften av AI-forskarna tror att risken är större än 10 procent att utvecklingen inom AI kommer att leda till mänsklighetens utplåning. Det ska sägas att studien är ifrågasatt och att svarsfrekvensen var låg. Men även om vi skulle skriva ned riskerna med en faktor tio är de ändå så stora att de totalt överskuggar riskerna med till exempel klimatförändringar.

Jag skulle vilja dra en analogi om människans bästa vän hunden. Hundägare älskar ofta sina hundar som om de vore en familjemedlem. Men skulle det vara så att de började sprida en sjukdom som hotade våra barn till livet skulle vi inte tveka att ta hundarna av daga för att rädda oss själva. I en framtid skulle vi kunna vara hundarna när artificiell intelligens är oss överlägsna i intelligens.

Fru talman! Det är ibland svårt att veta var man ska börja. Det här är ett ämne som man kan tala om i timme efter timme. Man kan välja att se bara möjligheterna och skygga för riskerna. Man kan välja att bara se riskerna och måla upp domedagens nära förestående. Vi måste ändå på något sätt hamna mittemellan. Det tycker jag även att Josef Fransson gör, vill jag säga.

Jag tror också att det är en revolution för världen. Vi har i dag väldigt svårt att riktigt förstå hur AI kommer att påverka våra liv och hur vi kommer att använda AI under de kommande decennierna. Det är så mycket som vi kommer att kunna använda AI till och så många möjligheter som AI kommer att ge oss om 20, 30 år som vi i dag inte ens tänker på. Det är hisnande men också ganska spännande ska jag personligen erkänna.

Jag delar inte uppfattningen att vi politiker mest ska fokusera på att hantera riskerna. Då riskerar vi att halka efter. Jag menar att vi som politiker måste kunna fokusera på att främja AI där vi tror att den kan göra störst nytta samtidigt som vi försöker skapa en reglering som minimerar riskerna med AI. Jag menar att vi måste klara av båda två.

Från början när jag blev civilminister med ansvar för digitalisering har jag sagt att vi ska ta till vara de stora möjligheterna som AI ger oss. De är enorma och är i dag bara i sin linda. Samtidigt måste vi hantera riskerna på vägen. Det är mina ingångsvärden inom det här politikområdet.

Josef Fransson lyfte själv i sitt anförande fram möjligheterna inom hälso- och sjukvård. Där hjälper AI redan i dag till inom hälso- och sjukvården. Det är inte så att AI är någon nyhet inom svensk hälso- och sjukvård. AI har använts under lång tid för att hitta sjukdomar och för att kunna diagnostisera och bota sjukdomar.

Vi ser att det kommer att användas i en mycket mer snabb takt framöver. Vi kan ställa prognoser på ett helt annat sätt. Vi kan få mycket mer likvärdiga beslut inom socialtjänst och inom andra offentliga instanser som ökar rättvisan, exempelvis den rättsliga rättvisan.

Vi kan också använda det inom rättsväsendet på ett helt annat sätt. Vi kan få tag på vedervärdiga brottslingar, åtala dem och straffa dem för de vedervärdigheter som de har gjort. Det finns fantastiska möjligheter.

Men det finns naturligtvis också risker. Det jag är mest rädd för är att totalitära stater och regimer kommer att använda AI som ett sätt att kontrollera sina medborgare. Det handlar om att socialt kontrollera dem, att manipulera dem och föra fram falsk propaganda. Vi kan redan se detta i dag i det fasansfulla kriget som Ryssland för gentemot Ukraina. Man använder desinformation, och AI är ett medel i detta.

Jag är också rädd för att man inte vet vad som är sant och falskt och att gränslandet mellan sant och falskt suddas ut. Man kan utge sig för att vara någon man inte alls är, etcetera.

Jag har dock ingen stoppknapp att trycka på. Jag kan inte säga: Nu stoppar vi den här utvecklingen och förbjuder alla riskerna. Så fungerar inte forskning och utveckling. Skulle vi stoppa forskning och utveckling i Europa och USA är det Kina som har herraväldet över utvecklingen av AI. Det tror jag inte är någon utveckling som vare sig jag eller Josef Fransson vill se framför oss.

Det pågår mycket arbete inom AI-akten inom EU men också arbete inom TTC och inom G7-länderna där vi talar mer om ett gemensamt synsätt på detta med gemensamma regleringar och också gemensamma standarder. Jag pausar där och återkommer i nästa inlägg.

Fru talman! Tack, statsrådet Slottner, för diskussionen! Jag vill vara tydlig: Jag tror inte att vi vare sig kan eller vill stoppa någon utveckling inom AI.

Problemet är bara kraften i denna teknologi och att utvecklingen, som det ser ut i dag, är så gott som oreglerad. Några personer som varnar för techföretagens kapprustning är Steve Wozniak, medgrundare till Apple, MIT-professorn Max Tegmark, författaren och professorn Yuval Noah Harari, som är mycket intressant att lyssna på i sammanhanget, multientreprenören Elon Musk och många därtill. Dessa personer, bland andra, har varit med och skrivit ett öppet brev som heter Pause Giant AI Experiments. Det kanske mest ska ses som en inlaga i en debatt, för jag tror inte att de själva tror att någon utveckling kommer att pausas på grund av deras brev. Men det är ett väldigt intressant brev som är värt att ta del av i sin helhet.

Riskerna med AI är mångfasetterade. Några av dem är här och nu. I mitt förra inlägg såg jag lite längre in i framtiden. Men redan här och nu kan vi börja fundera på vad som händer med vår kultur när mjukvaror skapar konst, musik och litteratur som berör oss djupare än det som skapats av människor. Hur påverkar det vårt samhälle när ett dataprogram kan skapa djupa intima relationer med oss som kanske känns mer verkliga än dem vi många gånger har med våra vänner? Vad händer med vår demokrati när dessa program börjar producera lagförslag och propaganda - kanske med någon som styr vid spakarna, kanske helt på egen hand? Kommer värdens demokratier över huvud taget att överleva som demokratier i AI:s tidsålder? Om inte - vad är det som kommer sedan?

AI riskerar att leda till massarbetslöshet på ett sätt som inte går att jämföra med tidigare tekniksprång. Att mängder av människor kommer att skinnas på varenda krona genom sofistikerade lurendrejerier ser jag som givet. Risken för massiv värdeöverföring till ett litet antal företag och individer ser jag också som mer eller mindre given om vi inte politiskt hittar lösningar. Detta sker alltså i ett landskap där techgiganterna kanske redan i dag omsätter mer än många staters bruttonationalprodukt. Denna utveckling kommer, som jag ser det, att accelerera med AI. Detta är ett litet axplock; riskerna med AI är förmodligen lika stora som antalet olika melodier man kan spela på ett piano.

Fru talman! Jag ska inte stå här och låtsas att jag sitter på lösningarna, åtminstone inte alla lösningar. Men jag tänker lyfta fram några punkter. Jag kanske inte hinner läsa upp alla, utan jag får spara några till mitt sista inlägg. Men jag ska i alla fall börja, och jag tar då upp ett förslag som jag har lyft fram offentligt tidigare.

Det handlar om att vi bör upprätta en AI-nämnd, sammansatt av samtliga politiska partier i den här kammaren och den bästa expertis som Sverige har att erbjuda. Vi bör helt enkelt upprätta ett forum där man öppet och ärligt kan diskutera risker och möjligheter. Genom en sådan nämnd får man också korta ledtider till att politikerna åtminstone kan få en möjlighet att lyfta konkreta förslag för att skydda oss mot det som är hotfullt med AI. Jag menar att det här är en mycket lågt hängande frukt, som vi borde ta tag i genast.

Jag har alltså ytterligare ett antal punkter, men jag sparar dem till mitt slutinlägg.

Fru talman! Tack för det konkreta förslaget från Josef Fransson! Jag är idel öra för att höra de kommande förslagen, för jag tycker att det är väldigt givande, oavsett sammanhang, att få många konkreta förslag inom olika politikområden.

Jag kan börja med att säga att det i dag inte finns något förslag om en AI-nämnd från regeringens bord. Däremot kommer det under hösten att komma fler beslut och initiativ som rör AI. Det kan jag redan nu säga, och vi får återkomma med exakt vad de innehåller när de väl kan presenteras.

Dessa beslut handlar dock mycket om att främja AI och att använda AI i större utsträckning än vi gör i dag. Josef Fransson radade upp en del hot, nackdelar och risker som AI för med sig. Det är viktigt att peka på dem, men jag tycker att det blir lite väl dystopiskt när man bara lyfter fram riskerna och säger att det ena och det andra kommer att hända: Det kommer att bli massarbetslöshet, det kommer att bli enorma värdeöverföringar och människor kommer att bli utsatta för bedrägerier på grund av AI. Då tycker jag att man lite för självsäkert målar upp en dystopisk bild av framtiden.

Det kan ju också vara så att vi med AI-teknik faktiskt hjälper människor att upptäcka olika typer av manipulationer. De hot som AI-tekniken kan innebära kanske man också kan använda AI-teknik för att avvärja. Vi har redan sett något sådant exempel. Jag tycker att man måste vara lite mer nyanserad när man talar om detta.

Jag tycker att det är väldigt bra att det förs etiska diskussioner; det måste man göra kring AI-utvecklingen. Det ska vi göra inom politiken, i den här kammaren, men det måste också föras sådana diskussioner på mycket bredare front utanför det här huset. Jag välkomnar verkligen detta.

Men om man tror att en ökad AI-användning bara kommer de stora techbolagen till del vad gäller ekonomisk vinning har man inte sett alltihop; det måste jag säga. En beräkning har gjorts som visar att bara offentlig förvaltning skulle kunna spara uppemot 140 miljarder kronor om vi var bättre på att använda AI-teknik fullt ut. Det här är en siffra som är några år gammal, så det är mycket möjligt att summan skulle vara ännu högre i dag.

Man ser att man med hjälp av AI skulle kunna fatta mycket snabbare beslut. Man skulle kunna effektivisera beslutsprocesser och minska risken för felaktiga utbetalningar, bara för att ta några exempel - för att inte tala om vad man skulle kunna använda AI till inom både äldreomsorg och hälso- och sjukvård. Med AI skulle man kunna minska behovet av mänsklig arbetskraft så att de anställda, som vi i dag många gånger har brist på, kunde göra det som kräver mer människonära omvårdnad.

Jag är övertygad om att människan är mer än sin intelligens. Jag hör ibland att en del tror att vi kommer att utrota människan och att människor inte kommer att behövas eftersom AI kommer att vara mer intelligent än människan. Jag menar att människan har ett större värde än sin intelligens och att människan även i en värld där AI dominerar mycket mer än i dag kommer att ha ett existensberättigande och ett värde även framöver.

Jag är övertygad om att mänskligheten kommer att överleva också AI. Det är vad jag tror, men där kan vi ha lite olika uppfattningar och ingångar. Det är naturligtvis ingen som vet med hundra procents säkerhet. Men att tala om att mänskligheten skulle vara utrotad om 50 år, som jag har hört någon nämna, tycker jag är kraftigt överdrivet. Jag tror att människan har ett existensberättigande även i en värld där AI finns och används mycket mer än i dag. Människan är större och har ett högre värde än sin intelligens.

Fru talman! Det är kloka resonemang i mångt och mycket. Jag tror dock att politikens uppgift när det kommer till AI i första hand är att hantera risker, för det kommer inte företagen att göra. Företagen är däremot väldigt duktiga på att lyfta nyttor. Därav följer att jag vill ägna min korta tid här på jorden och i denna talarstol åt att lyfta det jag tror är mest angeläget för mina barns framtid och det jag kan göra.

Jag övergår nu till några av de ytterligare förslag som jag lovade att lyfta.

Det andra förslaget är att utse en myndighet som har ett uttalat främjandeuppdrag för artificiell intelligens. Det kanske man kan säga redan är tillgodosett i någon mån, men vi ska också inrätta en myndighet som hanterar riskerna med artificiell intelligens. Båda perspektiven behövs och bör om möjligt inte sammanblandas på myndighetsnivå.

Mitt tredje förslag är att göra det förbjudet att använda AI i kommunikation utan att uppge för mottagaren att det är AI. Med denna lag skulle man åtminstone kunna försvåra lite grann när det gäller vissa bedrägerier och oetisk affärsverksamhet.

Det fjärde förslaget är att man låter utreda vem som bär ansvaret när AI orsakar skada på individer eller juridiska personer. Företag behöver ta en större del av risken än vad jag tror att de är lagstadgat tvingade till i dag.

Det femte förslaget är att öronmärka forskningsmedel just för risker med artificiell intelligens.

Slutligen: Det sjätte förslaget är att söka internationellt samarbete inom normgivning och brottsbekämpning. Frågan är av global karaktär, och jag vill upprepa att den är långt mycket mer angelägen än frågan om klimatförändringar. Det är min absoluta övertygelse.

Fru talman! Det tredje av de här sex förslagen finns faktiskt redan med i det förslag till ny AI-förordning som vi nu har baxat igenom. Det har kommit ända till Europaparlamentet och är nu i trilogförhandlingar inom EU.

Ska vi möta och få en reglering av AI för att undvika de risker som Josef Fransson har nämnt behöver vi internationell reglering. Vi kan inte ha 27 olika regleringar i en inre marknad. Det är väldigt bra att EU nu har gått fram gemensamt för att möta frågan på ett gemensamt sätt så att investerare och utvecklare av AI vet vilket regelverk som gäller när man ska implementera nya AI-produkter på den inre marknaden. Jag tror att det är bra för Europas konkurrenskraft, och jag tror också att det är väldigt bra för att minimera riskerna med AI.

Bland annat föreslås det att om man interagerar med en annan människa med hjälp av AI ska den som tar emot informationen veta att det är ett AI-verktyg. Det är ett av väldigt många förslag som finns här.

Jag tycker också, som jag sagt i tidigare inlägg, att det är väldigt viktigt att regeringen främjar AI. Just med tanke på den enorma potentialen för både bättre verksamhet och besparingar i pengar är det självklart för mig att regeringen bör främja AI.

Jag är väldigt engagerad i exempelvis hur våra kommuner och regioner ska kunna använda AI i mycket större utsträckning. Vi har väldigt goda exempel från många kommuner där man drastiskt dragit ned sina kostnader, effektiviserat verksamheterna och fått bättre verksamheter med hjälp av AI. Detta vill jag ska implementeras brett i Kommunsverige.

Avslutningsvis vill jag säga att det är viktigt att vi inte ser AI som en isolerad fråga. AI är en del av digitaliseringen. AI har vi hållit på med sedan 50-talet i vår värld. Den är mycket mer avancerad nu, men för att AI ska kunna utvecklas behöver vi data. Det jobbar vi också med: hur vi ska kunna främja datadelen på ett säkert och tryggt sätt.

Interpellationsdebatten var härmed avslutad.