Torsdag 22. oktober 20261. årgang · Nr. 2

Offentlig sektor · SverigeResultattype: MåltKvalitet 3 af 3

over 1,5× – målt

Kvinder var over 1,5 gange så tilbøjelige som mænd til at blive udvalgt af modellen, selvom stikprøver viste, at de ikke laver flere fejl

Svensk myndighed tog AI-riskprofil til kontrol af vab ud af brug efter afsløret skævhed

Försäkringskassan · Myndighed (socialforsikring) · Maskinlæringsbaseret riskprofil

Kort fortalt: Försäkringskassan (Sverige): Kvinder var over 1,5 gange så tilbøjelige som mænd til at blive udvalgt af modellen, selvom stikprøver viste, at de ikke laver flere fejl. Myndigheden tog riskprofilen ud af brug i 2025 under IMY's tilsyn og har ingen planer om at genoptage den. Tallet er målt. Kilde: Lighthouse Reports – How we investigated Sweden's suspicion machine (presse), Lighthouse Reports – Sweden's Suspicion Machine (presse).

  • ✔ Kilde åbnet og tjekket
  • Tilføjet 21.10.2026
  • Relevans for Danmark 3/3

Fakta i tal

  • over 1,5×Kvinder var over 1,5 gange så tilbøjelige som mænd til at blive udvalgt af modellen, selvom stikprøver viste, at de ikke laver flere fejl

Problemet

Myndigheden ville målrette kontrollen med midlertidig forældrepenge (vab, pasning af syge børn) mod de ansøgninger, hvor der var størst risiko for fejl eller snyd.

Løsningen

En maskinlæringsbaseret riskprofil udvalgte ansøgere til kontrol. Lighthouse Reports og Svenska Dagbladet fik fat i data om over 6.000 personer, som modellen havde udpeget, og testede dem med otte akademiske eksperter (offentliggjort november 2024).

Sådan er det målt

Statistiske fairness-test af journalisterne på et datasæt fra myndighedens egen tilsynsmyndighed. Efterfølgende tilsyn fra Integritetsskyddsmyndigheden (IMY), afsluttet 18. november 2025.

Tallet er mærket målt. Se forskellen på målt, selvvurderet og forventet.

Resultatet

Kvinder var over 1,5 gange så tilbøjelige som mænd til at blive udvalgt af modellen, selvom stikprøver viste, at de ikke laver flere fejl. Myndigheden tog riskprofilen ud af brug i 2025 under IMY's tilsyn og har ingen planer om at genoptage den.

Det virkede ikke

Modellen overudvalgte kvinder, personer med udenlandsk baggrund, lavindkomstgrupper og personer uden universitetsuddannelse, også blandt dem der ikke havde gjort noget forkert. Systemet blev drevet uden offentlig indsigt.

Få én ærlig AI-case om ugen – også det, der ikke virkede.

Kan det bruges i Danmark?

Ja. Danske myndigheder som Udbetaling Danmark bruger risikobaseret kontrol, og casen viser, hvorfor fairness-test og åbenhed er nødvendige, før modeller bruges på borgere.

Kilder

Se en fejl? Send en rettelse · Sådan scorer vi

Samme slags opgave i Danmark: Region: AI til knoglebrud gav beskeden effekt – ventetid 69 til 57 min. i Aarhus, uændret i Horsens

Læs også

Nyhedsbrev · hver anden tirsdag kl. 7.30

5 cases og nyt i de AI-værktøjer, du bruger – hver anden tirsdag.

Ingen spam. Afmeld med ét klik. Vi bruger kun din mail til nyhedsbrevet. Privatliv