Regeringen vill låta polisen använda AI-ansiktsigenkänning på allmän plats

Regeringen vill göra det lagligt för Polismyndig­heten och Säkerhetspolisen att använda sig av AI-ansiktsigenkän­ning i realtid på allmän plats. Enligt en ny proposition ska polisen, likt övervakningssamhällen som Storbritannien och Kina, använ­da sig av gigantiska databaser ska­pade av privata företag för att iden­tifiera människor som misstänks för brott med hjälp av AI-algoritmer.

– Polisen behöver effektivare verktyg för att bekämpa grov brotts­lighet, och ny teknik ger nya möjlig­heter. Nu ser vi till att polisen ska få lokalisera misstänkta gärningsmän i realtid med hjälp av AI. Samtidigt som vi ser till att rättssäkerheten och den personliga integriteten värnas, sa justitieminister Gunnar Strömmer när lagförslaget presenterades.

Många olika kamerasystem ska kunna kopplas samman för detta än­damål, bland annat befintliga över­vakningskameror på gator och torg, polisens kroppskameror, kameror på polisbilar och tillfälligt uppsatta kameror på specifika platser. Enligt det nu liggande lagförslaget ska över­vakningen begränsas till det område där den eftersökte väntas röra sig eller där risken för brott eller terro­rism är stor, men detta kan komma att ändras.

Förutom misstänkta gärningsmän ska även personer på flykt och för­svunna personer och brottsoffer kunna lokaliseras på detta sätt.

Medan anhängare till AI-ansiktsigenkänning menar att det är ett smart verktyg för polisen som be­hövs för att tackla den eskalerande brottsligheten, menar kritiker att det medför allvarliga risker och utgör ännu ett steg mot ett dystopiskt kon­trollsamhälle.

Inte minst har det visat sig i andra västländer som redan använder så­dana system att oskyldiga människor grips felaktigt när AI-systemen med ”100 procents säkerhet” pekar ut nå­gon helt annan än den man söker ef­ter – och polisen väljer att följa dessa uppgifter trots att de uppenbart är felaktiga.

Lagförslaget lämnar dessutom öppna dörrar för maktmissbruk, inte minst riktat mot etablissemangskriti­ker och de som staten menar begår åsiktsbrott.

Ny lag med kontroversiell teknik

Tidöpartierna har gått till val på att ta krafttag mot brottsligheten och föreslår nu att införa ett kontrover­siellt verktyg för polisen: automati­serad ansiktsigenkänning med hjälp av AI.

Enligt den nya propositionen, som presenterades för riksdagen den 3 mars, konstaterar regeringen att den allvarliga brottsligheten i Sverige även fortsatt är ett kontinuerligt och svårt samhällsproblem. Man näm­ner dock inte att det är ett till över­vägande del importerat fenomen där invandrargäng skjuter och spränger i syfte att dominera olika brottsrevir.

Systemet är tänkt att använda sig av avancerade AI-algoritmer kopp­lade till gigantiska databaser med bilder på både medborgare och besö­kare i Sverige och via övervaknings­kameror i realtid skanna av samtliga personer i landet som fångas på bild av dessa. Bland alla dessa hundra­tusentals människor, den överväldi­gande majoriteten helt oskyldiga, ska sedan eftersökta brottslingar kunna identifieras och poliser skickas för att gripa dem.

Enligt propositionen ska ”tekni­ken vara proportionerlig” och det ska krävas tillstånd från åklagare eller domstol för att lägga in en sök­ning på en konkret person i systemet. Den person som eftersöks ska vara ”skäligen misstänkt” för ett allvarligt brott med fyra år eller mer i straff­skalan eller ”om det finns överhäng­ande risk för att personen kommer att begå ett allvarligt brott som inne­bär fara för annans liv eller fysiska säkerhet”.

Risk för missbruk

Kritiker pekar på att det finns risker med tekniken som överstiger nyttan av brottsbekämpning. När vi går ige­nom propositionen kan vi notera att det bland annat står: ”I brådskande fall ska användning dock få påbörjas utan tillstånd och då ska en ansökan om tillstånd göras inom 24 timmar.”

Det finns med andra ord utrymme för polisen att på egen hand göra be­dömningar om vilka personer det är man ska leta efter och i vilka si­tuationer. I Sverige finns till exempel fyra år i straffskalan för åsiktsbrottet hets mot folkgrupp, vilket i realite­ten innebär att en politiskt korrekt polis skulle kunna fatta beslutet att använda sig av AI-systemen för att leta rätt på och hindra politiskt miss­hagliga individer, till exempel på väg till en demonstration eller ett möte där det finns motdemonstranter. En sådan tjänstemannaaktivist skulle kunna argumentera att det då finns risk att ett ”allvarligt brott” kan be­gås på platsen, antingen i form av att de säger fel saker eller för att det finns risk att det sker våldsamheter, och att detta uppfyller kraven som ställs för eftersökning med ansiktsigenkänning.

Det kan låta överdrivet, men det finns otaliga exempel i Sverige un­der de senaste decennierna på hur till exempel nationalister stoppats från att delta på demonstrationer el­ler politiska möten av polisen – allt på lösa eller påhittade grunder.

Vi har också sett hur nya system ges allt vidare användningsområden. Ett exempel är fartkamerorna, som man, när de introducerades 2006, be­dyrade uteslutande skulle användas för att fånga fartsyndare, men som sedan januari 2025 används för att i realtid söka efter misstänkta brottslingar. Detta genom att både skanna ansiktet på personerna i bilen och re­gistreringsskylten.

Sverige ska kringgå tandlös EU-lagstiftning

I propositionen konstaterar reger­ingen att AI-förordningen inom EU som infördes 2025 har en del be­gränsningar, till exempel ett förbud mot att använda AI-system för an­siktsigenkänning i realtid, men att det för medlemsstaterna finns vägar att kringgå detta.

Enligt artikel 5.1 h i AI-förordning­en är det till exempel ”förbjudet att använda AI-system för biometrisk fjärridentifiering i realtid på allmänt tillgängliga platser för brottsbekäm­pande ändamål”. En sådan formule­ring borde utesluta det system som regeringen vill införa. Men det står också att om det finns ”en betydande fördröjning” mellan insamlandet av de bilder som används för att upp­rätta referensdatabasen, till exempel genom att AI-systemen söker i data­baser som bygger på ”redan insamla­de biometriska uppgifter”, såsom ar­kiv av bilder och videoupptagningar, så tillåter AI-förordningen plötsligt att AI-system använder algoritmer för ansiktsigenkänning.

Vidare får en medlemsstat själv stifta lagar som ger dem rätten att använda sig av AI-system för ansiktsigenkänning i realtid på allmänt tillgängliga platser för brottsbekäm­pande ändamål.

Bland de kritiska röster som höjts mot att polisen börjar använda sig av AI-tekniken återfinns Diskrimi­neringsombudsmannen och vänster-aktivisterna inom Civil Rights Defen­ders. De varnar för riskerna med att systemet kan leda till ”diskrimine­ring av personer baserat på deras etniska tillhörighet” genom att sys­temet kan ha ”inbyggda fördomar”. Den högst reella faran med att perso­ner med ”fel åsikter” blir måltavlor kommenterar de dock inte.

Felmarginaler ökar med hundra gånger

De företag som bygger och säljer AI-systemen hävdar att de är när­mast felfria. Till exempel används AI-företaget Clearviews gigantiska databaser med personfoton i många länder, däribland USA, Storbritan­nien och Nederländerna. Företaget skannar av sociala medier i jakten på personfoton från olika vinklar och i olika belysning, och har till dags dato samlat in över 70 miljarder bilder på olika privatpersoner. Databasen används av fler än 600 polisstyrkor världen över – trots att Clearview gång på gång bötfällts på miljardbelopp för integritetsintrång.

Men trots de gigantiska mäng­derna data som de olika AI-systemen tränas på blir det likväl ofta fel.

Statligt genomförda tester visar att AI-systemen blivit bättre med ti­den på identifiering, men det råder fortfarande kontroverser kring hur tillförlitliga de egentligen är. Någon tillförlitlig statistik över hur många felaktiga identifikationer som görs varje år finns inte. Man har dock kunnat konstatera att det råder sto­ra variationer mellan olika etniska grupper, där felmarginalen för svar­ta och asiater är många gånger högre än för vita, och där kvinnor identifie­ras med en något högre felmarginal än vid identifiering av män.

Det tyska AI-företaget Home Offi­ce, som används av bland annat Storbritannien, visade sig vid en genom­gång ha en felmarginal på hela 5,5 procent för svarta och 4 procent för asiatiska individer av båda könen, mot bara 0,4 procent för vita, när po­lisen använde sig av kontrollgrupper i sina tester.

USA:s National Institute of Stan­dards and Technology (NIST) genom­för årligen omfattande tester med olika AI-algoritmer för deras tillför­litlighet. Man har kommit fram till att om en AI-algoritm har tillgång till passfoton som visar hela ansik­tet och jämför ett foto av en person i realtid med denna databas, ligger felmarginalen på under 0,1 procent för många av de större företagens AI-algoritmer. De bästa fick bara fel i 0,0013 procent av testerna, som genomfördes 2025. Felmarginalen för vita män är hos de flesta av AI-algoritmerna bara runt 0,0003 pro­cent medan den är runt tio gånger högre för asiatiska män och nästan 15 gånger högre för svarta män. Det är fortfarande under 0,1 procents felmarginal, under optimala förhål­landen, men likväl visar det på statis­tiskt stora skillnader mellan etniska grupper.

Det kan anses vara en låg felmar­ginal, men den ökar avsevärt för de ändamål som den svenska polisen vill använda systemen till. När sam­ma AI-algoritmer testades på över­vakningskameror med bilder som inte tas rakt framifrån eller som tas under förhållanden med dåligt ljus eller dimma utomhus ökar felmargi­nalen, beroende på olika variabler, med runt tio gånger. I en del fall upp­mätte NIST felmarginaler som var uppåt hundra gånger större, vilket motsvarar runt 1 procent.