En AI vid regeringsbordet – men vem bär ansvaret?

En minister måste kunna förklara sina prioriteringar, utfrågas och ytterst förlora sitt uppdrag. AI kan producera en förklaring, men texten behöver inte vara en trogen redovisning av hur resultatet uppstod. Och att stänga av ett system är inte samma sak som att någon bär rättsligt eller politiskt ansvar.

Inte heller mänskliga ministrar är fullständigt genomskinliga eller rationella. Förespråkare kan med rätta invända att ett dokumenterat AI-system i vissa avseenden går lättare att granska än informella telefonsamtal och magkänsla. Men loggning löser bara en del av problemet. Någon måste ha befogenhet och kompetens att granska loggarna, ingripa och rätta fel.

Demokratisk legitimitet kräver dessutom inte nödvändigtvis att varje minister är direktvald. I parlamentariska system kommer mandatet genom konstitutionella regler och regeringens relation till parlamentet. Den avgörande frågan är därför vilken ansvarskedja AI:n skulle ingå i. Om en människa ändå måste godkänna allt och svara för konsekvenserna är maskinen i praktiken rådgivare, oavsett titel.

Partiskheten kan börja långt före det enskilda svaret. Historiska uppgifter kan avspegla diskriminering. Administrativa register beskriver ofta vad staten har registrerat, inte hela verkligheten. Ett system som tränas på tidigare beslut kan reproducera gamla prioriteringar och presentera dem som neutral erfarenhet.

Till detta kommer manipulation. Dokument som modellen läser kan innehålla instruktioner avsedda att styra den, så kallad promptinjektion. Förgiftade datakällor, kapade konton och ändrade modellversioner kan påverka resultat. Om systemet dessutom får verkställa beslut ökar konsekvenserna av ett intrång dramatiskt.

Full offentlighet är ingen enkel lösning. Regeringsarbete omfattar personuppgifter, säkerhetskänslig information och förhandlingar. Oberoende granskare kan behöva insyn som allmänheten inte kan få. Staten måste också kunna fortsätta fungera om leverantören slutar leverera eller systemet behöver isoleras. Ju centralare AI:n blir, desto viktigare blir fungerande reservrutiner utan den.

I Sverige börjar frågan inte med hur intelligent programmet är. Regeringsformen anger i första kapitlet att all offentlig makt utgår från folket och att den offentliga makten utövas under lagarna. En regeringsledamot måste passa in i denna ordning.

Enligt 6 kap. 2 § regeringsformen får endast svenska medborgare vara statsråd. Ett AI-system är inte svensk medborgare och kan därför inte utses till statsråd enligt gällande rätt. Det hjälper inte att ge systemet ett namn, en avatar eller ett svenskt organisationsnummer för bolaget bakom.

För att möjliggöra en verklig AI-ledamot skulle åtminstone grundlagens behörighetsregler behöva ändras. Grundlag ändras som huvudregel genom två likalydande riksdagsbeslut med ett riksdagsval emellan. Därutöver skulle en lagstiftare behöva lösa hur reglerna om bland annat ansvar, granskning och regeringens beslutsfattande ska fungera för ett system som inte är en människa.

Samtidigt avgörs regeringsärenden som huvudregel av regeringen vid regeringssammanträde, enligt 7 kap. 3 §. Bilden av en svensk minister som ensam styr sitt politikområde är därför missvisande redan utan AI. En digital ledamot skulle ingå i ett kollektivt beslutsorgan, inte bara sköta ett eget automatiserat departement.

För myndigheter finns andra regler. Förvaltningslagens 28 § anger att beslut kan fattas automatiserat. Det betyder inte att varje ärende får automatiseras utan vidare, och bestämmelsen ger inte datorer ministerstatus. Specialregler, krav på rättssäker handläggning och dataskydd gäller fortfarande.

GDPR:s artikel 22 ger som huvudregel rätt att inte bli föremål för beslut som enbart grundas på automatiserad behandling och har rättsliga eller liknande betydande effekter. Undantag finns, bland annat när behandlingen är tillåten genom lag med lämpliga skyddsåtgärder. Regeln är alltså inte ett generellt förbud mot automatiserade myndighetsbeslut.

EU:s AI-förordning från 2024 tillför riskbaserade krav, med stegvis tillämpning. Vissa offentliga användningar kan klassas som högrisk, exempelvis system för att bedöma tillgång till väsentliga offentliga stöd och tjänster. Förordningen reglerar AI-system; den skapar inget demokratiskt mandat att inneha regeringsmakt.

Det mest realistiska steget är en kraftfull AI-funktion i regeringskansliet, med en namngiven människa som ansvarar för användningen. Ett system som jämför underlag, föreslår frågor och hittar avvikelser kan vara mycket användbart utan att få en egen stol vid bordet.

En seriös försöksverksamhet bör börja med avgränsade uppgifter och jämföras med befintliga arbetssätt. Blir analyserna faktiskt bättre? Upptäcks fel tidigare? Gynnas vissa grupper? Kostnaderna för granskning, dataskydd och reservlösningar måste räknas in, inte bara besparade arbetstimmar.

Införande bör också kräva dokumenterade datakällor, prövning mot manipulation och möjlighet att stoppa systemet. Berörda människor behöver tydliga vägar till rättelse och mänsklig prövning där det krävs. Modelluppdateringar får inte tyst ändra politikens praktiska innehåll. En mänsklig underskrift räcker inte om den ansvarige saknar tid eller möjlighet att säga emot.

I scenariot 2035 hittar AI-ledamoten till slut en billigare upphandling som samtidigt stärker beredskapen. Det är en verklig framgång inom berättelsens premisser. Men nästa ärende kräver att någon fördelar uppoffringar mellan grupper med lika legitima intressen. Mer intelligens kan klargöra konflikten; den avskaffar den inte.

En AI vid regeringsbordet är därför tekniskt lättare att föreställa sig än en AI som legitim makthavare. Titeln kan införas långt innan ansvarskedjan håller. Demokratins viktigaste krav är inte att beslutsfattaren alltid har rätt, utan att medborgarna kan förstå, utmana och ytterst byta ut dem som bestämmer.