Spelregels voor game-based assessments: wat mag wel en wat niet?

Met online en game-based assessments kun je gedrag analyseren, vaardigheden beoordelen en antwoorden interpreteren. Op basis daarvan beoordelen werkgevers hoe goed een sollicitant bij een functie past.

Dergelijke systemen kunnen echter tot geautomatiseerde besluitvorming leiden, waarschuwt de Autoriteit Persoonsgegevens (AP). En daar gelden strenge regels voor, onder artikel 22 van de AVG. 

De organisatie zegt dat ze vóór innovatie en voor de toepassing van tech is, en dat AI kan helpen om objectieve beoordeling binnen het werving- en selectieproces te optimaliseren. Juist om daarbij te helpen, heeft de AP in maart een handreiking met richtlijnen gepubliceerd. 

Wanneer is er dan sprake van geautomatiseerde besluitvorming? “Je moet jezelf de vraag stellen of het gaat om een systeem dat zelfstandig beslissingen neemt over sollicitanten of kandidaten, zonder dat er een betekenisvolle menselijke tussenkomst is”, zegt Smsmieh. 

Betekenisvolle menselijke tussenkomst

Maar wat is dat, betekenisvolle menselijke tussenkomst? “Er moet een menselijke beoordelaar zijn die de uiteindelijke selectie maakt. Een voorspelling of een voorbeslissing vanuit een systeem, moet dus nog door een mens beoordeeld worden.”

Daar gelden bepaalde minimumvereisten voor. Allereerst: de menselijke beoordelaar moet de vrijheid en bevoegdheid hebben om een beslissing of voorspelling uit een systeem aan te passen of te negeren. Systemen maken soms fouten en een mens moet de mogelijkheid hebben om daarop te reageren.

Begrijpen hoe het systeem kandidaten selecteert

Daarnaast moet de menselijke beoordelaar bekwaam zijn, dus begrijpen hoe het systeem werkt. “We zien vaak HR-medewerkers die wel bij het beslissingsproces zitten, maar niet begrijpen hoe het systeem werkt of hoe het algoritme beslissingen neemt. Als je het algoritme niet begrijpt, kun je het ook niet oneens zijn met de voorspelling uit een systeem en deze zo nodig negeren of aanpassen”, vertelt Smsmieh. 

Ook dat gaat in de praktijk nogal eens fout. “We hebben wel meegemaakt dat we iemand vragen stelden over hoe een score tot stand is gekomen en dat de medewerker dat niet wist. Dan kun je mij ook niet vertellen dat je daar invloed op hebt gehad.”

Als je het algoritme niet begrijpt, kun je het ook niet oneens zijn met de voorspelling uit een systeem en deze zo nodig negeren of aanpassen.

Wat ook gebeurt, is dat mensen blind vertrouwen op een systeem. “We hebben wel gezien dat iemand bevoegd en bekwaam is om een beslissing te nemen, maar daar helemaal niets mee doet. Diegene vertrouwt volledig op de voorspelling van het systeem en stuurt op basis daarvan handmatig afwijzingsbrieven naar de kandidaten die onder de minimumdrempel hebben gescoord. Maar dat is niet voldoende. Je moet je bekwaamheid en bevoegdheid ook daadwerkelijk toepassen. Je moet jouw menselijke invloed toevoegen aan het uiteindelijke besluit.”

Hoe waarborg je menselijke tussenkomst bij werving en selectie?

Aan bedrijven dus de taak om aan te tonen dat er een bekwame en bevoegde menselijke beoordelaar te pas komt bij werving en selectie. Dat kan bijvoorbeeld via een DPIA: een Data Protection Impact Assessment. Dit is in feite een risicobeoordeling, waarmee vooraf de privacyrisico’s van een gegevensverwerking in kaart worden gebracht. 

“Bij dit soort systemen is sprake van hoogrisicoverwerkingen, wat betekent dat je sowieso een DPIA moet uitvoeren. Daarin kun je dus prima waarborgen hoe je betekenisvolle menselijke tussenkomst hebt ingericht”, aldus Smsmieh. 

Wanneer mag geautomatiseerde besluitvorming wel?

Overigens is het niet zo dat geautomatiseerde besluitvorming via online- en game-based assessments helemaal verboden is. Er zijn bepaalde uitzonderingen waarbij dit wel mag worden toegepast. 

Een van de uitzonderingen is dat het voor een specifiek geval noodzakelijk is. Smsmieh geeft een voorbeeld: “Stel, je zet een vacature uit waar je een bepaald aantal reacties op verwacht. Als je dan plots duizenden sollicitaties binnenkrijgt en je maar beperkte capaciteit hebt, dan is het onwerkbaar om die allemaal met de hand te beoordelen. Dan moet je een deel van het proces wel automatiseren.” 

• Lees ook: Wat kan HR met de AI Agent?

In zo’n geval moet je echter wel kunnen aantonen dat het automatiseren daadwerkelijk noodzakelijk is. En dat moet bovendien per situatie opnieuw beoordeeld worden. “Elke procedure is uniek, elke functie is uniek. Voor de een krijg je duizenden reacties, voor de ander veel minder. Je kunt niet zeggen dat dit voor alle selectieprocedures standaard noodzakelijk is. En je moet die noodzakelijkheid wel kunnen aantonen en vastleggen, bijvoorbeeld via een DPIA.”

Sollicitant geeft ‘vrijelijk toestemming’

Een andere uitzondering is wanneer de sollicitant vrijelijk toestemming geeft voor een geautomatiseerd selectieproces. Maar daar is de AP erg terughoudend in, omdat er sprake is van een ongelijke verhouding tussen sollicitant en de werkgever. De toestemming wordt dan vaak niet vrijelijk gegeven, maar eerder onder druk: ga je niet akkoord, dan krijg je de baan niet. “In sommige gevallen is vrijelijke toestemming mogelijk, maar dat is lastig aan te tonen. En in de meeste gevallen kan dat ook niet.”

Is een geautomatiseerd assessment een verplicht onderdeel, dan is er al direct geen sprake meer van vrijelijke toestemming. “Diegene moet de vrijheid hebben om die deelname op ieder moment te weigeren. En de toestemming moet je op ieder moment kunnen intrekken. Ook moet je kunnen aantonen dat iemand nooit druk heeft gevoeld om toestemming te geven en dat iemand geen nadelige gevolgen krijgt door te weigeren.”

Risico’s assessmentsysteem kennen en beperken

In de situatie dat geautomatiseerde besluitvorming via online- en game-based assessments wel mag, moet de werkgever diverse waarborgen inbouwen. Dergelijke besluitvorming brengt namelijk diverse risico’s met zich mee. Uitkomsten zijn niet altijd accuraat of betrouwbaar, kunnen onbedoeld discriminerend zijn, en systemen zijn bovendien niet altijd geschikt om te beoordelen of iemand bij een functie past.

• Lees ook: AI in werving en selectie: risicofactor én bondgenoot in de strijd tegen bias – HR Tech Arena

Een voorbeeld is een assessment dat stemmen en gesprekken analyseert. Is iemand erg nerveus, dan komt diegene misschien slechter uit zijn woorden. Dat wil niet zeggen dat diegene niet goed zou functioneren in de baan waarop gesolliciteerd wordt. Maar een assessment-systeem kent dergelijke nuances niet. Dat systeem zegt dan dus mogelijk: deze persoon functioneert niet, omdat hij niet uit zijn woorden komt. 

Werkgever blijft verantwoordelijk 

Het is de taak van de werkgever om deze risico’s te kennen en daar passende maatregelen voor te nemen. “Vanaf het moment dat je zo’n systeem inkoopt, moet je zorgen dat het goed gebouwd is en dat de data die verwerkt worden, accuraat zijn. Je moet voorkomen dat het onbedoeld bias kan veroorzaken of een onjuiste voorspelling kan geven”, zegt Smsmieh. “Het systeem of de game die je koopt, moet geschikt zijn om mensen te beoordelen voor de functie die je aanbiedt. En je moet als werkgever kunnen aantonen dat je je best hebt gedaan om deze risico’s te beperken.”

Belangrijk daarbij is ook dat de verantwoordelijkheid altijd bij de werkgever blijft liggen, ook als je een systeem bij een derde partij inkoopt. Voldoet een systeem dus niet, dan blijf jij daar als werkgever ook verantwoordelijk voor. “De kandidaten solliciteren voor een functie bij jou”, benadrukt Smsmieh. “Natuurlijk mag je een gezamenlijke verwerkingsverantwoordelijke hebben en gezamenlijke afspraken maken voor de uitoefening van deze rechten. Maar je blijft als werkgever te allen tijde verantwoordelijk voor het naleven van deze verplichtingen.”