Guider

Hvad betyder AI-forordningen for kommunale chatbots?

EU's AI-forordning (forordning 2024/1689) trådte i kraft 1. august 2024 og gælder i etaper. For en kommune, der vil bruge en chatbot eller AI-assistent, er der især tre ting at holde øje med.

1. Borgerne skal vide, at de taler med AI

Forordningens artikel 50 kræver, at personer får besked, når de interagerer direkte med et AI-system, medmindre det er åbenlyst. Ifølge forordningen gælder kravet fra 2. august 2026. En chatbot på kommunens hjemmeside skal altså tydeligt vise, at den er en AI.

2. Medarbejdere skal have AI-kompetencer

Artikel 4 kræver, at organisationer sikrer et tilstrækkeligt niveau af AI-kompetencer hos de medarbejdere, der bruger AI. Kravet har gældt siden 2. februar 2025. Det betyder ikke et kursus for alle, men at folk forstår, hvad værktøjet kan, og hvor det fejler.

3. Nogle anvendelser er højrisiko

En chatbot, der svarer på generelle spørgsmål, er normalt ikke højrisiko. Men bruges AI til at vurdere, om en borger har ret til en offentlig ydelse, står det på forordningens liste over højrisiko-anvendelser (bilag III). Så gælder der skrappe krav til dokumentation, menneskeligt tilsyn og en konsekvensvurdering for grundlæggende rettigheder.

EU har foreslået at udskyde dele af reglerne for højrisiko. Tjek den aktuelle status, før I lægger en tidsplan.

Sådan kommer I i gang

Lav en enkel oversigt over jeres AI-løsninger, før kravene bliver presserende.

  • Hvad bruges løsningen til, og hvem bruger den?
  • Taler borgere direkte med den?
  • Påvirker den afgørelser om borgere?
  • Hvem har ansvaret, og hvordan følger I op?

Ofte stillede spørgsmål

Er en intern AI-assistent omfattet?

Ja, kravet om AI-kompetencer gælder også internt brug. Gennemsigtighedskravet handler især om situationer, hvor borgere taler direkte med AI.

Hvad er straffen for at overtræde reglerne?

Forordningen giver mulighed for bøder, men niveauet afhænger af overtrædelsen og af dansk lovgivning. Spørg jeres juridiske afdeling.

Hjælper QWorker med AI-registeret?

Et AI-register er en del af tilvalget til organisationer, som er under udvikling. I dag kan du bruge tjeklisten i denne guide.

Denne guide er generel information og ikke juridisk rådgivning. Vurder altid jeres egne forpligtelser sammen med jeres DPO eller juridiske rådgiver.

Vil I se, hvordan det fungerer i praksis?

Book en uforpligtende demo, og se QWorker på jeres egne arbejdsgange.