18 februari 2020 09:22 Privacy-AVG HR-vakgebied Grensoverschrijdend gedrag Privacy-AVG

Deze algoritmes maken het werk van HR makkelijker, maar AVG stelt strenge grenzen

Een sollicitatiegesprek met een robot, besluitvorming over het werk door computers, of dataverzameling door smartwatches om de gezondheid van medewerkers te monitoren. HR krijgt de beschikking over algoritmes die beslissingen nemen over mensen. Maar hoe weten we zeker dat die algoritmes ook echt de juiste beslissingen nemen? De Autoriteit Persoonsgegevens waarschuwt dat het verwerken van persoonsgegevens door algoritmes, niet zomaar mag.

Vooruitgang is mooi, maar wanneer computers beslissingen nemen over ons leven, moeten die processen wel goed controleerbaar zijn. De Autoriteit Persoonsgegevens (AP) wil daarom de garantie dat er op zorgvuldige wijze met persoonsgegevens wordt omgegaan. De privacywet AVG stelt eisen aan de verwerking van persoonsgegevens, zeker als dat gebeurt door kunstmatige intelligentie (AI) en algoritmes.

Gaat HR beslissingen aan de computer overlaten?
Human resources blijft natuurlijk mensenwerk, maar technologische hulpmiddelen kunnen een bijdrage leveren om de dienstverlening van de HR-directie te verbeteren. We hoeven alleen maar te bedenken hoezeer de personeelsadministratie is veranderd in de afgelopen jaren, om het nut ervan in te zien.

Maar de inzet van algoritmes en AI gaat nog een paar stappen verder. Daarbij helpt software ons niet alleen, maar gaat het ook zelfstandig beslissingen nemen over de inzet en selectie van mensen. Heel handig misschien, maar niet altijd even transparant. Hoe leggen we een sollicitant straks uit dat die is afgewezen door een algoritme? Of een werknemer waarom het werk ‘van de computer’ opeens anders moet? Want er is soms maar een dunne lijn tussen ‘wat geweldig dat dit allemaal kan’ en ‘bloedlink wat hier gebeurt’.

Privacywet AVG stelt grenzen aan algoritmes
Volgens de Autoriteit Persoonsgegevens bieden algoritmes veel kansen, maar kleven er ook serieuze risico’s aan. Het gevaar bestaat dat autonome systemen de vrije wil van burgers terzijde schuiven. Maar mensen hebben recht op een begrijpelijke motivering als er een nadelige beslissing is genomen. Anders kun je jezelf niet verdedigen en kan een rechter dat niet toetsen.

Algoritmes maken gebruik van persoonsgegevens en moeten dus voldoen aan de privacywet AVG. Daarin staat heel duidelijk dat algoritmes niet tot een uitkomst mogen leiden die discrimineert, oneerlijk is of onbehoorlijk.

Voorbeelden van algoritmes voor HR

Sollicitatiegesprekken met een robot: Maak kennis met Tengai, de robot die sollicitatiegesprekken afneemt. Deze robot is onlangs ook in Nederland geïntroduceerd en is ontworpen om (voor)oordelen van recruiters en managers uit te schakelen tijdens de sollicitatieprocedure. Daardoor zou de beste kandidaat gekozen kunnen worden, los van uiterlijk of achtergrond. Vraag blijft alleen op basis waarvan Tengai een selectie maakt. Algoritmes worden (nog steeds) over het algemeen ontwikkeld door witte mannen, waardoor het gevaar bestaat dat die in de praktijk ook in hun voordeel beslissen.
Bij Amazon ging het eerder dit jaar bijvoorbeeld mis omdat hun zelfontwikkelde sollicitatierobot vrouwen discrimineerde. Amazon had eerder vooral mannen in dienst genomen. De computer herkende dit patroon in de datasets en ging hier gewoon mee door.

Een ander voorbeeld van AI bij recruitment is HireVue, dat al wordt gebruikt door bedrijven als Hilton, Vodafone en Unilever voor de selectie van kandidaten. Het systeem geeft hen opdrachten en stelt vragen. Het combineert hun antwoorden met een analyse van hun taalgebruik, gezichtsuitdrukkingen en de toonhoogte van hun stem. Het gevaar bestaat hier, dat het systeem vooral kandidaten selecteert die goed zijn in het voeren van selectiegesprekken, in plaats van mensen die het meest geschikt zijn voor de vacature.

Inzet van wearables: Er zijn mensen die ondertussen al flink de zenuwen krijgen van alle meldingen op hun smartphone, laat staan dat ze dan ook nog een smartwatch moeten dragen. Maar werkgevers zien juist steeds meer mogelijkheden om deze ‘wearables’ in te zetten om personeel te monitoren. Dat kan door hun aan- en afwezigheid te checken, hun bewegingen (zijn ze aan het werk?) en hun precieze positie.

Maar de smartwatches kunnen ook de hartslag meten, het zuurstofniveau in het bloed of het stressniveau. Zo helpen ze om een beeld te krijgen van de gezondheid van de werknemer en mogelijkheden om deze te verbeteren. Maar mag HR al die gegevens wel zonder meer verwerken binnen de grenzen van de AVG? Het antwoord is zeer waarschijnlijk nee. Maar ondertussen is hier al een industrie van 25 miljard dollar mee gemoeid, dus tegenhouden zal in de praktijk haast niet meer gaan.

Plannen van werkprocessen: Als HR daadwerkelijk kan helpen om werkprocessen te verbeteren en fouten te verminderen, kan het vak een bewezen bijdrage leveren aan de bedrijfsvoering. Ook hierbij kan AI helpen.
Zo weten ze in de haven van Rotterdam nu steeds eerder wanneer een schip precies aanmeert. Een week tevoren kunnen bedrijven al het benodigde personeel inplannen, transporteurs waarschuwen en bestellingen plaatsen, omdat een computer precies berekent wanneer het schip de haven binnenvaart. Dat is mogelijk door de inzet van AI, dat allerlei gegevens zo slim combineert op een manier die beter is dan mensen dat kunnen.

Maar het kan nóg intelligenter. Bijvoorbeeld bij IBM, dat de Project Debater heeft ontwikkeld, een zelfstandig werkend systeem dat taal kan analyseren en daarmee de beste oplossingen voor problemen kan ontwikkelen. Het systeem stelt medewerkers vragen over hun werk en gaat zelfs met hen in discussie over voor- en nadelen van hun antwoorden. Op basis hiervan kan het oplossingsrichtingen geven. Het is nu nog een hulpmiddel voor besluitvorming, maar de ontwikkeling staat niet stil.

Anders werken door zelflerende robots: Verder kunnen robots zelf leren van hun fouten door slimme algoritmes. Niet doordat een mens dat in hun software verbetert, maar door eigenstandig combineren van gegevens waardoor nieuwe kennis ontstaat. Zo wordt de computerrobot steeds slimmer en veranderen werkzaamheden van mensen die met de robots samenwerken. Ook kunnen zo hele beroepsgroepen overbodig worden, zelfs experts.

Gebruik van algoritmes alleen met strenge regels
Voor het gebruik van algoritmes die persoonsgegevens verwerken moet er allereest een grondslag zijn voor de verwerking, bijvoorbeeld toestemming of de uitvoering van een contract. Daarnaast mogen gegevens die verwerkt worden voor het ene doel niet zomaar op een later moment ook voor een ander doel worden gebruikt (doelbinding). Verder gelden er – afhankelijk van het type persoonsgegevens – ook bijvoorbeeld normen rond de opslag en beveiliging van de persoonsgegevens.

De AVG regelt ook dat de verwerkingsverantwoordelijke verplicht een register bijhoudt, waarin wordt beschreven welke persoonsgegevens worden verwerkt, inclusief de doeleinden van die verwerkingen. Ook moet eerst het effect van de verwerking op de privacy worden beoordeeld. Deze zogeheten data protection impact assessment (DPIA) is bij het gebruik van algoritmes meestal verplicht. Als daaruit niet duidelijk blijkt dat het gebruik is toegestaan, moet eerst de Autoriteit Persoonsgegevens worden geraadpleegd, voordat een algoritme mag worden gebruikt.