Er Danmarks velfærdsstat ved at blive et overvågnings-mareridt (Danish)
Skrevet af Christina J. Colclough, PhD, grundlægger af The Why Not Lab. Publiceret 12. april 2024
Photo by mari lezhava on Unsplash
Politiken har i de sidste par dage* (april 2024) sat fokus på de kunstig intelligens systemer, som Skat og Udbetaling Danmark bruger, men som de (indtil nu) mere eller mindre har mørklagt. Faktisk har Skattestyrelsen mørklagt formålet med 14 af de 23 systemer de bruger. I syv af systemerne har Skattestyrelsen hidtil mørklagt, hvilken slags persondata de kører på.
Historien er brudt ud i lys lue efter Akademikerbladet har fået en aktindsigt hos Datatilsynet. Men historien er ikke ny.
Fakta (fra Politiken)
Skats AI-overvågning
Datatilsynet gennemførte sidste år en kortlægning af, hvordan kunstig intelligens, der fodres med personlige data, bruges i det offentlige. Kortlægningen viser, at skattevæsnet er den suverænt flittigste bruger af teknologien.
Skatteministeriet overstregede store dele af sine svar til Datatilsynet, da Akademikerbladet bad om aktindsigt i materialet. Ministeriet henviser til risikoen for, at borgere og virksomheder kan omgå kontrollen.
I 14 tilfælde vil Skattestyrelsen derfor ikke oplyse, hvad formålet med AI-systemerne er, og i 7 tilfælde ikke, hvilke personoplysninger systemet benytter.
Allerede i marts 2023 afdækkede en artikel i Wired: “How Denmark’s Welfare State Became a Surveillance Nightmare” at staten bruger avancerede algoritmiske systemer til blandt andet at finde borgere, der potentielt snyder (vil snyde?) i skat og med sociale ydelser.
Digitaliseringen i Danmark er gennemgribende og langt fra uproblematisk.
Digitaliseringen i Danmark er gennemgribende og langt fra uproblematisk. Flere eksperter vurderer også, at flere af disse systemer er i strid med loven. I alle fald, kan vi trække følgende problemfelter frem:
❌ Skattevæsenet og Udbetaling Danmark går imod ALLE etiske principper om transparens (må jeg minde myndighederne om at DK har underskrevet OECD.AI #AIprincipperne)
❌ De samme myndigheder der med al sandsynlighed begår lovbrud (#GDPR, #eprivacy) og snarligt også #AIforordningens krav om transparens.
❌ Den nye Rejsekort app, der tracker din lokalitet hele tiden. - også når du ikke rejser (hvordan skulle den ellers "hjælpe" dig hvis du har glemt at tjekke ud?)
❌ en Digitaliseringsminister der synes det er gavnligt at kalde sig selv tech optimist og udpege andre som tech pessimister. Dermed tager hun ikke ansvar. Hun får ikke fejet for egne døre, så hun derefter kan indføre ordentlige og meningsfulde digitale forvaltningsprincipper.
❌ Medarbejdere der forventes (tvinges?) til at downloade arbejdsgiver apps på deres private mobiltelefoner (med risiko for at blive overvåget af arbejdsgiverne dag og nat, i og udenfor arbejdstiden)
❌ #MitID, som alle forventes at bruge, der bliver solgt til en udenlandsk virksomhed uden borgerne er blevet hørt.
Det er på ingen måde acceptabelt. Det risikerer tilmed at gør vold på det høje tillidssniveau, der gennemsyrer/har gennemsyret(?) det danske samfund og som i den grad understøtter den danske kultur, konkurrenceevne, omstillingsparathed og meget meget mere.
Tech optimisterne er tech naive. Vi er på vej mod en politistat, et overvågningssamfund fra private aktører og staten og vi burde sige STOP ⛔
*Artiklerne i Politiken er skrevet af Jens Bostrup og kan findes her: