Torsdag 22. oktober 20261. årgang · Nr. 2

Offentlig sektor · NederlandeneResultattype: MåltKvalitet 3 af 3

1.600 – målt

Knap 1.600 ansøgninger blev kørt gennem modellen i piloten

Storby stoppede 'fair' AI til kontrol af kontanthjælp: pilot flagede flere og fandt ikke flere fejl

Gemeente Amsterdam · Kommune (socialydelser) · Egen maskinlæringsmodel (Smart Check)

Kort fortalt: Gemeente Amsterdam (Nederlandene): Knap 1.600 ansøgninger blev kørt gennem modellen i piloten. Den flagede flere til kontrol i stedet for færre og var ikke bedre end sagsbehandlerne til at finde de relevante sager. Byen anslår at have brugt ca. 500.000 euro plus 35.000 euro til Deloitte. Tallet er målt. Kilde: MIT Technology Review og Lighthouse Reports (presse), Lighthouse Reports – The limits of ethical AI (presse).

  • ✔ Kilde åbnet og tjekket
  • Tilføjet 21.10.2026
  • Relevans for Danmark 3/3

Fakta i tal

  • 1.600Knap 1.600 ansøgninger blev kørt gennem modellen i piloten
  • 500.000Byen anslår at have brugt ca. 500.000 euro plus 35.000 euro til Deloitte

Problemet

Sagsbehandlere sender mistænkelige ansøgninger om ydelser til byens kontrolafdeling, hvilket kan forsinke udbetalinger. Byen ville kun kontrollere dem, der reelt burde kontrolleres, og samtidig undgå diskrimination.

Løsningen

Byen udviklede fra 2019 selv modellen Smart Check, trænet på 3.400 tidligere undersøgelser, med eksterne rådgivere, bias-test og omvægtning af data for at sikre lige fejlrater. Pilot på rigtige ansøgninger i 2023, parallelt med en menneskelig vurdering.

Sådan er det målt

Byens egne bias-test og pilotresultater, uafhængigt analyseret af Lighthouse Reports og MIT Technology Review ud fra byens udleverede modeldata (artikel juni 2025).

Tallet er mærket målt. Se forskellen på målt, selvvurderet og forventet.

Resultatet

Knap 1.600 ansøgninger blev kørt gennem modellen i piloten. Den flagede flere til kontrol i stedet for færre og var ikke bedre end sagsbehandlerne til at finde de relevante sager. Byen anslår at have brugt ca. 500.000 euro plus 35.000 euro til Deloitte.

Det virkede ikke

Bias dukkede op igen i piloten: efter omvægtningen var modellen nu mere tilbøjelig til fejlagtigt at flage hollandske statsborgere og kvinder. Rådmanden stoppede piloten i slutningen af november 2023. Byen vendte tilbage til den manuelle proces, som dens egen analyse også fandt skæv.

Få én ærlig AI-case om ugen – også det, der ikke virkede.

Kan det bruges i Danmark?

Ja. Danske kommuner og Udbetaling Danmark bruger risikomodeller i kontrol, og casen viser, hvorfor bias-test skal gentages i drift – og også på den manuelle proces.

Kilder

Se en fejl? Send en rettelse · Sådan scorer vi

Samme slags opgave i Danmark: DMI: AI-vejrmodel laver prognose på to minutter mod 2–3 timer og nærmer sig den fysiske models præcision

Læs også

Nyhedsbrev · hver anden tirsdag kl. 7.30

5 cases og nyt i de AI-værktøjer, du bruger – hver anden tirsdag.

Ingen spam. Afmeld med ét klik. Vi bruger kun din mail til nyhedsbrevet. Privatliv