Sinds 1 augustus 2024 is de Europese AI-verordening in werking getreden, waarmee het veilig gebruik van kunstmatige intelligentie (AI) wordt geregeld. Deze nieuwe set regels stelt duidelijke eisen aan de ontwikkeling en het gebruik van AI-systemen, afhankelijk van het risico dat deze systemen met zich meebrengen. Voor HR-adviseurs, die steeds vaker gebruikmaken van AI voor personeelsbeheer en werving, is deze verordening zeker relevant.

De Europese AI-verordening stelt regels aan betrouwbare AI in de Europese Unie, door eisen te stellen aan de ontwikkeling en het gebruik van deze systemen.

AI-systemen die worden ingezet op het gebied van werkgelegenheid, personeelsbeheer en toegang tot werk, worden geclassificeerd als systemen met een hoog risico.
Dit betekent dat AI-toepassingen onder strenge regels vallen als die gebruikt worden voor:

• de werving en selectie van personeel, of
• voor het nemen van besluiten over promoties, ontslag of taaktoewijzing,

De reden hiervoor is dat deze systemen aanzienlijke gevolgen kunnen hebben voor de carrièrekansen en het levensonderhoud van medewerkers.

Wat betekent de AI-verordening voor HR?
Een belangrijk aandachtspunt voor HR-professionals is dat AI-systemen in de werving en personeelsbeheer historische patronen van discriminatie kunnen versterken. Bijvoorbeeld doordat elementen van vooringenomenheid bij het programmeren al (onbedoeld) in het systeem zijn gebracht. Deze ongewenste vooringenomenheid kan door het zelflerend vermogen van AI-systemen tijdens het gebruik steeds sterker worden en uitmonden in (verboden) vormen van discriminatie.

Dit geldt vooral voor kwetsbare groepen zoals vrouwen, bepaalde leeftijdsgroepen, personen met een handicap of personen met een bepaalde seksuele voorkeur of raciale en etnische achtergrond. Het is daarom cruciaal dat HR-afdelingen bij het implementeren van AI-systemen niet alleen letten op de efficiëntie en effectiviteit, maar ook op de ethische implicaties en mogelijke vooroordelen in de algoritmes die worden gebruikt. Niet alleen de ontwerper kan verantwoordelijk worden gehouden voor fouten en discriminatie die in het systeem zitten, maar de gebruiker ook.

Verantwoord gebruik van AI in HR-processen
De AI-verordening vereist daarom dat bedrijven die AI gebruiken in HR-processen, extra maatregelen treffen om ervoor te zorgen dat deze technologie op een eerlijke en transparante manier wordt ingezet. Dit houdt onder meer in dat AI-systemen voor gebruik grondig moeten worden getest op bias en dat de uitkomsten van deze systemen regelmatig worden geëvalueerd om ervoor te zorgen dat ze (blijven) voldoen aan de regels.

Daarnaast wordt in de verordening benadrukt dat AI-systemen die prestaties en gedrag van medewerkers monitoren, de rechten op gegevensbescherming en privacy van deze medewerkers kunnen beïnvloeden. HR-adviseurs moeten zich er dus van bewust zijn dat dergelijke systemen niet alleen onderworpen zijn aan de AI-regels, maar ook aan bestaande wetgeving rondom privacy en gegevensbescherming.

Wat HR-adviseurs nu moeten doen
Voor HR-adviseurs is het van belang om op de hoogte te zijn van deze nieuwe regels en ervoor te zorgen dat hun organisatie voldoet aan de AI-verordening. Dit betekent onder meer:

Stapsgewijze invoering
Met de invoering van de AI-verordening wordt een belangrijke stap gezet richting een toekomst waarin AI innovatief kan worden gebruikt, maar ook eerlijk en transparant. Voor HR-professionals betekent dit een verantwoordelijkheid om AI op een ethisch verantwoorde manier te integreren in hun processen, met oog voor de impact op medewerkers en kandidaten.

De Europese Commissie gaat toezicht houden op de grote AI-modellen die voor veel verschillende doelen gebruikt kunnen worden. Nationale toezichthouders gaan erop toezien dat de eisen voor hoog-risico AI worden nageleefd. Dat wordt in nationale regelgeving vastgelegd.

Kunstmatige Intelligentie: Reguleer het gebruik op het werk

Doorsturen: