EU vedtog sidste år en ny forordning, der regulerer brugen af AI. Den har vi skrevet om her. Den nye lov betyder, at det vil være Digitaliseringsstyrelsen, Datatilsynet og Domstolsstyrelsen, der skal føre kontrol med forbudt brug af AI ved at:
- Opkræve og indhente alle relevante og tekniske oplysninger om AI-systemer
- Gennemføre fysiske kontrolbesøg og tekniske undersøgelser af AI-systemer
- Give påbud og midlertidige stop for både salg, markedsføring og brug af forbudte AI-systemer
- Give bøder
Myndighederne kan også offentliggøre deres afgørelser om forbudt brug af AI.
iuno mener
Loven kommer som led i den bredere europæiske regulering af AI, og medfører som noget nyt muligheden for at håndhæve de nye AI-regler. Virksomheder skal derfor sørge for, at de kan redegøre for deres brug af AI og kan fremvise, hvordan deres systemer virker, hvis myndighederne skulle komme på besøg.
IUNO anbefaler, at virksomheder allerede nu kortlægger deres brug af AI og vurderer, hvilken risikogruppe deres system falder under. Virksomheder skal også kunne forklare, hvordan systemet træffer beslutninger, og hvilke data, det anvender. Udover de nye regler skal AI-systemer også stadig overholde de almindelige regler om for eksempel forskelsbehandling og databeskyttelse.
[Lov om supplerende bestemmelser til forordningen om AI af den 8. maj 2025]