Maja Fjaestad

Den algoritmiska framtiden är vår

  • 6 min

Här följer ett stycke ur inledningen till boken AI & makten över besluten – Vad alla borde veta om algoritmer i offentlig sektor, en antologi som jag varit redaktör för tillsammans med Simon Vinge. Kapitlen och deras författare presenteras nedan!

Är det inte fantastiskt att vi nu har teknik som kan användas för att fatta många av de beslut som dagligen genomförs i offentlig verksamhet? En verkligt neutral, objektiv och rättvis automat som bara förhåller sig till demokratins kärnprinciper? Kanske kan vi nu göra oss av med känslostyrda människor som riskerar att styras mer av sitt blodsocker än av grundlagen? Men – är det verkligen så enkelt och så lovande?
Skribenterna i denna bok visar ur olika perspektiv att det inte finns någon sådan ensidigt positiv automatik i den nuvarande utvecklingen. Tvärtom riskerar vi med många av de tekniska landvinningarna viktiga demokratiska principer – om vi inte aktivt värnar dem.
Den artificiella intelligensen, AI, har varit på allas läppar sedan de stora språkmodellerna gjorde ett genombrott under senhösten 2022. Många försöker bena ut vilka användningsområden och förändringar i det privata näringslivet som AI skapar. Däremot har färre funderat på hur AI påverkar en minst lika bärande pelare i tillvaron: vår gemensamma stat och förvaltning som dagligen har en avgörande betydelse för samhällets medborgare och invånare. Hur påverkar tekniken – sedan bara ett par år i form av AI och sedan årtionden i form av avancerade algoritmer – denna grundpelare, och i förlängningen oss människor?
Algoritmerna
Men låt oss inleda med algoritmbegreppet. Nästan varje mänsklig handling går att se just som en algoritm. En algoritm består av ett antal instruktioner ordnade i en tidsserie för att lösa ett visst problem eller göra en viss sak. Algoritmer är på ett sätt en fråga om struktur snarare än teknik. Vi kan rentav tänka oss analoga algoritmer, till exempel ett laminerat flödesschema som vi sätter upp på en vägg för att  visualisera en beslutsprocess. Men när vi programmerar och infogar algoritmer i den digitaliserade tekniken händer det någonting. Med hjälp av datorer kan vi skala upp algoritmerna och göra dem komplexa bortom enkel genomskinlighet. Med AI kan vi dessutom lägga till ytterligare en nivå.
Modern AI, som också kallas för ”maskininlärning”, kan beskrivas som system av algoritmer som har tränats av en träningsalgoritm istället för att programmeras direkt.
När alltmer avancerade tekniker införs i den offentliga verksamhetens system är risken stor att tekniken krockar med gamla och för demokratin helt centrala principer, om man inte aktivt värnar dem. Ett beslut fattat av, eller med hjälp av, algoritmer riskerar att vara långt ifrån ett enkelt beslutsstöd som kan förklaras av en tjänsteman, när en medborgare till exempel nyttjar sin rätt att be förvaltningen att förklara hur man fattat sitt beslut.
Vår ambition är att exemplifiera frågan om algoritmernas makt utan att trivialisera den
Komplexa algoritmer gör idag sitt inträde i den offentliga förvaltningen både med och utan politiska beslut om att så ska ske. Den offentliga sektorn, till skillnad från den privata som vi inte fokuserar på i denna bok, har spelregler som sätts upp utifrån vad vi kräver av och förutsätter i en demokrati. Dess beslut måste kunna förklaras, processerna måste kunna motiveras och samhällets spelregler måste vara förutsägbara, specifika och begripliga. De ska dessutom vara öppna för delaktighet och förändring genom demokratins verktyg.
Algoritmer i offentlig förvaltning drar detta till sin spets och ställer en rad grundläggande och fundamentala principer i helt nytt ljus, bland dem offentlighetsprincipen. I sitt bidrag frågar sig till exempel Cecilia Magnusson Sjöberg vad det innebär för denna portalprincip när språkalgoritmer kan gå igenom alla digitaliserade arkiv i Sverige på några sekunder.
Bokens olika bidrag tillåter läsaren att lyfta blicken och se vilket nytt inslag som algoritmerna utgör i vårt samhälle. Vi menar att det är någonting kvalitativt nytt som introduceras, men som gör det med en kvantitativ metod: många små steg blir till slut ett stort. Det kan handla om vilken skola våra barn hamnar eller inte hamnar i, som Charlotta Kronblads kapitel visar ett exempel på. Det kan handla om hur din app-data används för helt andra syften än du trodde eller om de politiska effekterna av att man till synes harmlöst och trendriktigt börjar effektivisera och digitalisera delar av sin förvaltning.
Vår ambition är att exemplifiera frågan om algoritmernas makt utan att trivialisera den. Många ställer de tekniska frågorna kring AI-utvecklingen, men alltför få ställer de demokratiska frågorna. Vi kan också notera att de skandaler som redan skett egentligen inte har handlat om teknik. Svaret på varför de misstag som tas upp i några av den här bokens texter kunde ske hittar vi inte hos programmerare eller tekniker; vi hittar dem hos de demokratiska institutioner som förvaltat tekniken, institutioner som uppenbart inte varit redo för algoritmerna eller som inte fullt ut tagit
sitt demokratiska ansvar.
Den algoritmiska framtiden är vår
Makten i offentlig sektor ligger hos oss själva och det är bara vi som bestämmer hur samhället ska använda tekniken. Till detta kommer att tekniken är skapad av människor och att det inte finns några naturlagar som styr hur den tar sig uttryck eller hur den ska förändra våra liv. Denna premiss är synnerligen relevant för vår offentliga förvaltning.
Teknik är en form av maktutövning som behöver underkastas demokratins principer och ansvarsutkrävande. Det innebär en skyldighet för politiker och offentlig sektor att förstå, undersöka och ifrågasätta ny teknik – men även att förstå att AI är en del av samhället, inte något som står i motsats till samhället. Det motiverar också varför det är nödvändigt att aktivt reflektera kring inom vilka frågor vi inte vill använda AI.
Bokens olika bidrag tillåter läsaren att lyfta blicken och se vilket nytt inslag som algoritmerna utgör i vårt samhälle

____________________________________

AI och makten över besluten består av följande bidrag:

CHARLOTTA KRONBLAD
Algoritmisk orättvisa – Göteborgs felkodade algoritm för skolplaceringar

JOHAN HIRSCHFELDT
Algoritmer och sociala bidragssystem: två nationella skandaler

MARCUS MATTEBY
Om ett ministerbesök, intraprenörer och kommunala perspektiv: en uppgörelse

MARCIN DE KAMINSKI
Digitala hot och risker som formativ ledstjärna

ULRIKA BJÖRKSTÉN
Vetenskapsjournalistikens algoritmer före och under covid-19-pandemin

NASIM FARROKHNIA
Algoritmer i vården: hot eller möjlighet för profession och patient?

FIA EWALD
Vem tjänar algoritmerna? Ett maktperspektiv på digitalisering

STEFAN LARSSON
Om juridisk fixering och flexibilitet – den europeiska AI-förordningen och generativ AI

CECILIA MAGNUSSON SJÖBERG
Algoritmerna och rättssäkerheten – juridik, administration och teknik måste väga lika

JACOB DEXE
Transparensproblemet: Att förklara en algoritm

KARIM JEBARI
Artificiell intelligens och offentlig rättfärdighet

Då skickade jag ett sms rakt in till pågående presskonferens

  • 3 min

I detta utdrag ur Mitt i krisen – Beredskap och ledarskap i skarpt läge berättar jag om hur vi införde de dagliga pressträffarna där Folkhälsomyndigheten informerade om pandemins utveckling – mot myndighetens vilja …

 

Några minuter innan Folkhälsomyndighetens dagliga pressträff rusade hela den hallengrenska politiska staben mot den blå soffan i vårt fikarum. Hälften av oss hade hunnit få fatt i en kopp blaskigt automatkaffe när den tv-sända pressträffen inleddes. Det var den 13 mars 2020 och medverkade gjorde förutom de vanliga aktörerna, det vill säga representanter från Folkhälsomyndigheten, Socialstyrelsen och MSB, även Peter Fredriksson, generaldirektör för Skolverket. Hela den politiska staben lyssnade uppmärksamt. Även om vi redan hade haft vår dagliga avstämning var det viktigt att höra hur myndigheten uttryckte sig. Redan här i mars var tittarsiffrorna på de dagliga pressträffarna skyhöga. Peter Fredriksson lyfte många intressanta skolfrågor i sitt inlägg men så småningom tyckte jag nog att det blev en smula långrandigt. Jag skickade i ett infall ett sms till Johan Carlson med innebörden att det borde vara dags för Skolverket att avrunda. Så fort jag tryckt på send såg jag i direktsändningen att Johans mobiltelefon lös upp på bordet framför honom. Han tog upp den, läste på skärmen och skrattade till.

så småningom tyckte jag nog att det blev en smula långrandigt

Under januari och februari 2020 hade vi på Socialdepartementet med oro följt virusets utbredning genom Europa och övriga världen. Det fanns ett stort sug efter information från allmänheten. Under svininfluensan 2009–2010, en epidemi i färskt minne, hade ansvarig minister under en visserligen ganska kort period hållit dagliga pressträffar tillsammans med Folkhälsomyndigheten. Bilder på en yngre, solbränd Anders Tegnell dök upp när vi tittade på arkivfoton från denna tidigare pandemi.

Dagliga pressträffar vore bra, tyckte vi i Socialdepartementets politiska ledning. Man hade kunnat tänka sig att de hölls av ministern tillsammans med myndigheten eller av myndigheten själv. Om pressträffen berörde ett regeringsbeslut var det förstås viktigt att det kommunicerades av regeringen, gärna ihop med generaldirektören. I dessa fall skulle de hållas i Bella Venezia, Regeringskansliets pressrum.

Att ha dagliga pressträffar tillsammans med myndigheten skulle visserligen ge socialministern stor synlighet, men det fanns också en poäng med att presentera myndighetsinformation i ett mer neutralt sammanhang. Ingen ville bli anklagad för att politisera pandemin, och kanske kunde man tänka sig att följsamheten till rekommendationerna blev större om upplägget uppfattades som mer neutralt. I grund och botten kände vi oss bjussiga när vi ”gav bort” plattformen med dagliga pressträffar till Folkhälsomyndigheten.

Dagliga pressträffar? Det skulle ju inte finnas nya data varje dag?

Så tyckte vi, men så tyckte ingalunda Folkhälsomyndigheten. Dagliga pressträffar? Det skulle ju inte finnas nya data varje dag? Myndigheten kunde knappast förväntas stå på en scen och säga ingenting. När det fanns något att kommunicera skulle myndigheten göra det, basta. Detta ledde till viss oenighet mellan departement och myndighet, en oenighet som ledde till att vi satte ner foten med visst eftertryck. Departementet gjorde det till en fråga om formell styrning och vi lade ett osedvanligt detaljerat regeringsuppdrag till myndigheten med beslutsdatum den 5 mars 2020. I uppdraget står det ordagrant att myndigheten ska ha dagliga pressträffar.

Om myndigheten varit lite ovillig i början lärde den sig snart att bemästra pressträffsformatet med glans. De dagliga pressträffarna klockan 14 samlade människor över hela Sverige. Landets statsepidemiolog Anders Tegnell gick från att vara någon som ibland kommenterade antibiotikaresistens i vetenskapsnyheterna till att bli en superkändis. Jag betvivlar att det är sant att någon tatuerade in hans ansikte på sin kropp, men bara att en sådan historia spreds säger något om det genomslag som Anders och pressträffarna fick. Det är sällan mina barn varit det minsta imponerade av mitt jobb, men att mamma var Anders Tegnells chefs chef tog skruv.

Det är sällan mina barn varit det minsta imponerade av mitt jobb, men att mamma var Anders Tegnells chefs chef tog skruv.