Verslag event Digitaal Werven – Selectie, de juridische kant van AI

12 oktober was ik te gast bij het “Digitaal Werven – Selectie” event in Utrecht, georganiseerd door Bas van de Haterd.

Het thema van de dag was Selectie en niet altijd was de technologie een belangrijke element in de presentatie, daarom heb ik er 1 uitgepikt omdat Tech hier een essentieel onderdeel is. Het was de plenaire sessie van Arnoud Engelfriet, met als thema  “De juridische kant van Artificial Intelligence (AI) in selectie”.

Casus met de zaal over inzet van AI bij douanecontrole op vliegveld.  Besef goed waar je aan begint. Zodra het over mensen gaat, dan wordt het al snel een juridisch kwestie. De grote uitdaging is de BIAS (vooringenomenheid). Het is meer dan naïeve bias (te weinig nagedacht (valkuil voor iedereen)). Verkeerd getest qua doelgroep. Te veel uitgegaan van witte mannen!!!! Dit is een echt probleem >>>> mogelijk juridische maatregelen.

Ook bij sollicitaties!!!! Een foute AI screening van kandidaten (zoals bijvoorbeeld bij Amazon). Doe het zorgvuldig!!!! Wij mensen denken (heel suf) dat een computer het altijd goed doet in de matching >> probeer het te snappen >>> uitlegbare AI is essentieel. A.I. moet vertellen op basis waarvan de keuze is gemaakt. Computer kan immers ongewenste selectie criteria gaan hanteren.  Dit moeten we beter gaan regelen, oftewel er zal snel een juridisch kijk nodig zijn! In de EU gaan hier regels voor komen. Zorg is een mogelijke grote negatieve impact van AI op maatschappij.

Denk ook eens aan de AVG artikel 22 lid 1 > het is niet toegestaan om iemand geautomatiseerd te selecteren of afwijzen voor een functie >> de mens moet het besluit maken!! AI als hulpmiddel is mogelijk (advies of voorselectie).

Een EU commissie heeft een eigen verordening gemaakt >> er gelden regels voor vele soorten AI selectie software (dus ook Excel!!!!). Er is nog wel verschil tussen hoog en laag risico! >> Er moet aan de conformiteitsbeoordelingsprocedure worden voldaan! Een zwaar juridisch relaas. Samengevat, wees terughoudend met inzetten AI. Zorg voor dossiervorming van besluiten in selectie proces. Leg alles zorgvuldig vast.

Peer Goudsmit. HRTech expert en eigenaar bij PeerSearch.