AI har skapat ett hav av möjligheter över hela världen, men det har också medfört nya utmaningar och risker för dem som använder det. Därför syftar de nya EU-reglerna till att skydda medborgarnas rättigheter.
Ju större risk, desto strängare krav
Reglerna kommer att börja gälla löpande fram till augusti 2027 och kommer att påverka hela företaget - inklusive HR-avdelningen. Ju större risk AI-systemet utgör, desto fler krav kommer att ställas på det företag som använder systemet.
- AI-system med hög risk: Hit hör system som används för att rekrytera eller välja ut sökande eller fatta anställningsbeslut, t.ex. befordra eller säga upp en anställd. Företag som använder dessa system måste se till att de används i enlighet med bruksanvisningen, att personer med rätt utbildning och kompetens övervakar dem och att de anställda informeras om att systemen används på dem.
- AI-system med begränsad risk: Detta är de allra flesta AI-system som används idag, till exempel personliga assistenter, chatbots och annonser med AI. Företag som använder dessa system behöver inte följa några nya krav och regler men måste säkerställa att de använder systemen enlighet med befintlig lagstiftning, t.ex. GDPR.
- AI-system med minimal risk: Det handlar t.ex om stora generativa AI-modeller som ChatGPT, som kan användas för allmänna ändamål som att lösa olika uppgifter och skapa nytt innehåll. Företag som använder dessa system behöver inte uppfylla nya krav eller regler.
Vissa AI-system kommer också att bli helt förbjudna, till exempel system som kan klassificera en anställds personlighetsdrag över tid. Förbudet kommer att gälla från och med februari 2025.
iuno menar
Företag måste vara medvetna om huruvida något av deras system använder AI, och om så är fallet, om något av de system som används kommer att förbjudas enligt de nya EU-reglerna eller omfattas av högrisknivån. De flesta AI-system som används för HR-ändamål kommer att vara högrisk och företagen kommer att behöva följa de nya reglerna från och med augusti 2026 eller 2027, beroende på vilket system det gäller.
iuno rekommenderar att företag bekantar sig med de nya reglerna, som innebär höga böter på upp till 7% av företagets totala globala årsomsättning. Förutom de nya reglerna måste AI-systemen fortfarande följa de allmänna reglerna, t.ex. reglerna om diskriminering och dataskydd. Samma regler gäller när AI-system används för manuell personalhantering.
[Förordning (EU) 2024/1689 av den 13 juni 2024 om artificiell intelligens]