Den algoritmiska framtiden är vår
- 6 min
Här följer ett stycke ur inledningen till boken AI & makten över besluten – Vad alla borde veta om algoritmer i offentlig sektor, en antologi som jag varit redaktör för tillsammans med Simon Vinge. Kapitlen och deras författare presenteras nedan!
Är det inte fantastiskt att vi nu har teknik som kan användas för att fatta många av de beslut som dagligen genomförs i offentlig verksamhet? En verkligt neutral, objektiv och rättvis automat som bara förhåller sig till demokratins kärnprinciper? Kanske kan vi nu göra oss av med känslostyrda människor som riskerar att styras mer av sitt blodsocker än av grundlagen? Men – är det verkligen så enkelt och så lovande?
Skribenterna i denna bok visar ur olika perspektiv att det inte finns någon sådan ensidigt positiv automatik i den nuvarande utvecklingen. Tvärtom riskerar vi med många av de tekniska landvinningarna viktiga demokratiska principer – om vi inte aktivt värnar dem.
Den artificiella intelligensen, AI, har varit på allas läppar sedan de stora språkmodellerna gjorde ett genombrott under senhösten 2022. Många försöker bena ut vilka användningsområden och förändringar i det privata näringslivet som AI skapar. Däremot har färre funderat på hur AI påverkar en minst lika bärande pelare i tillvaron: vår gemensamma stat och förvaltning som dagligen har en avgörande betydelse för samhällets medborgare och invånare. Hur påverkar tekniken – sedan bara ett par år i form av AI och sedan årtionden i form av avancerade algoritmer – denna grundpelare, och i förlängningen oss människor?
Algoritmerna
Men låt oss inleda med algoritmbegreppet. Nästan varje mänsklig handling går att se just som en algoritm. En algoritm består av ett antal instruktioner ordnade i en tidsserie för att lösa ett visst problem eller göra en viss sak. Algoritmer är på ett sätt en fråga om struktur snarare än teknik. Vi kan rentav tänka oss analoga algoritmer, till exempel ett laminerat flödesschema som vi sätter upp på en vägg för att visualisera en beslutsprocess. Men när vi programmerar och infogar algoritmer i den digitaliserade tekniken händer det någonting. Med hjälp av datorer kan vi skala upp algoritmerna och göra dem komplexa bortom enkel genomskinlighet. Med AI kan vi dessutom lägga till ytterligare en nivå.
Modern AI, som också kallas för ”maskininlärning”, kan beskrivas som system av algoritmer som har tränats av en träningsalgoritm istället för att programmeras direkt.
När alltmer avancerade tekniker införs i den offentliga verksamhetens system är risken stor att tekniken krockar med gamla och för demokratin helt centrala principer, om man inte aktivt värnar dem. Ett beslut fattat av, eller med hjälp av, algoritmer riskerar att vara långt ifrån ett enkelt beslutsstöd som kan förklaras av en tjänsteman, när en medborgare till exempel nyttjar sin rätt att be förvaltningen att förklara hur man fattat sitt beslut.
Vår ambition är att exemplifiera frågan om algoritmernas makt utan att trivialisera den
Komplexa algoritmer gör idag sitt inträde i den offentliga förvaltningen både med och utan politiska beslut om att så ska ske. Den offentliga sektorn, till skillnad från den privata som vi inte fokuserar på i denna bok, har spelregler som sätts upp utifrån vad vi kräver av och förutsätter i en demokrati. Dess beslut måste kunna förklaras, processerna måste kunna motiveras och samhällets spelregler måste vara förutsägbara, specifika och begripliga. De ska dessutom vara öppna för delaktighet och förändring genom demokratins verktyg.
Algoritmer i offentlig förvaltning drar detta till sin spets och ställer en rad grundläggande och fundamentala principer i helt nytt ljus, bland dem offentlighetsprincipen. I sitt bidrag frågar sig till exempel Cecilia Magnusson Sjöberg vad det innebär för denna portalprincip när språkalgoritmer kan gå igenom alla digitaliserade arkiv i Sverige på några sekunder.
Bokens olika bidrag tillåter läsaren att lyfta blicken och se vilket nytt inslag som algoritmerna utgör i vårt samhälle. Vi menar att det är någonting kvalitativt nytt som introduceras, men som gör det med en kvantitativ metod: många små steg blir till slut ett stort. Det kan handla om vilken skola våra barn hamnar eller inte hamnar i, som Charlotta Kronblads kapitel visar ett exempel på. Det kan handla om hur din app-data används för helt andra syften än du trodde eller om de politiska effekterna av att man till synes harmlöst och trendriktigt börjar effektivisera och digitalisera delar av sin förvaltning.
Vår ambition är att exemplifiera frågan om algoritmernas makt utan att trivialisera den. Många ställer de tekniska frågorna kring AI-utvecklingen, men alltför få ställer de demokratiska frågorna. Vi kan också notera att de skandaler som redan skett egentligen inte har handlat om teknik. Svaret på varför de misstag som tas upp i några av den här bokens texter kunde ske hittar vi inte hos programmerare eller tekniker; vi hittar dem hos de demokratiska institutioner som förvaltat tekniken, institutioner som uppenbart inte varit redo för algoritmerna eller som inte fullt ut tagit
sitt demokratiska ansvar.
Den algoritmiska framtiden är vår
Makten i offentlig sektor ligger hos oss själva och det är bara vi som bestämmer hur samhället ska använda tekniken. Till detta kommer att tekniken är skapad av människor och att det inte finns några naturlagar som styr hur den tar sig uttryck eller hur den ska förändra våra liv. Denna premiss är synnerligen relevant för vår offentliga förvaltning.
Teknik är en form av maktutövning som behöver underkastas demokratins principer och ansvarsutkrävande. Det innebär en skyldighet för politiker och offentlig sektor att förstå, undersöka och ifrågasätta ny teknik – men även att förstå att AI är en del av samhället, inte något som står i motsats till samhället. Det motiverar också varför det är nödvändigt att aktivt reflektera kring inom vilka frågor vi inte vill använda AI.
Bokens olika bidrag tillåter läsaren att lyfta blicken och se vilket nytt inslag som algoritmerna utgör i vårt samhälle
____________________________________
AI och makten över besluten består av följande bidrag:
CHARLOTTA KRONBLAD
Algoritmisk orättvisa – Göteborgs felkodade algoritm för skolplaceringar
JOHAN HIRSCHFELDT
Algoritmer och sociala bidragssystem: två nationella skandaler
MARCUS MATTEBY
Om ett ministerbesök, intraprenörer och kommunala perspektiv: en uppgörelse
MARCIN DE KAMINSKI
Digitala hot och risker som formativ ledstjärna
ULRIKA BJÖRKSTÉN
Vetenskapsjournalistikens algoritmer före och under covid-19-pandemin
NASIM FARROKHNIA
Algoritmer i vården: hot eller möjlighet för profession och patient?
FIA EWALD
Vem tjänar algoritmerna? Ett maktperspektiv på digitalisering
STEFAN LARSSON
Om juridisk fixering och flexibilitet – den europeiska AI-förordningen och generativ AI
CECILIA MAGNUSSON SJÖBERG
Algoritmerna och rättssäkerheten – juridik, administration och teknik måste väga lika
JACOB DEXE
Transparensproblemet: Att förklara en algoritm
KARIM JEBARI
Artificiell intelligens och offentlig rättfärdighet