Zo kies je als HR de juiste AI-technologie

Dit artikel is een verkorte vertaling van het artikel HR beyond the AI hype van Anita Lettink.

Waar het voorheen voor leveranciers nog voldoende was om te melden dat zij gebruik maakten van AI, zonder duidelijk te maken wat hun systemen echt konden, is de tijd van holle AI-beloftes nu voorbij. De markt is volwassener geworden. Maar hoe maak je nu als HR-professional bij de keuze voor technologie het onderscheid tussen echte innovatie en slimme marketing?

Anita Lettink, adviseur op het gebied van de toekomst van werk en beloning, legt drie kernbegrippen uit die hierbij van belang zijn. Daarnaast geeft zij tien kritische vragen die je kunt gebruiken om beter te beoordelen wat er technisch en inhoudelijk achter een product schuilgaat.

Drie kernbegrippen

1. AI-native en AI-first

Technologie kan een AI-native-oplossing zijn of een AI-first-oplossing. Maar wat is het verschil tussen beide? Een AI-native-oplossing is vanaf de basis ontworpen met AI als kern van de architectuur. Dit betekent dat het product zonder AI niet zou kunnen bestaan. Een AI-first-oplossing daarentegen integreert AI in een bestaand platform.

2. Deterministische en probabilistische AI

Deterministische systemen geven altijd dezelfde uitkomst bij dezelfde input en zijn gebaseerd op vaste regels. Je hebt dit nodig voor bijvoorbeeld loonberekening, tijdregistratie en compliance. Ze vereisen absolute nauwkeurigheid.

Probabilistische AI werkt op basis van waarschijnlijkheden en kan bij dezelfde vraag verschillende antwoorden geven. Dat is prima voor bijvoorbeeld recruitment, contentcreatie of medewerkerbetrokkenheid, waar creativiteit en nuance waardevol zijn.

3. Naleving van de EU AI Act

De EU AI Act classificeert HR- en recruitmentsoftware als hoog-risico AI-systemen. Dat betekent dat leveranciers moeten voldoen aan strikte eisen rond transparantie, biaspreventie, databeheer en menselijk toezicht.

Tien kritische vragen

Onderstaande vragen helpen te beoordelen wat er technisch en inhoudelijk achter een product schuilgaat. Zie de onderstaande vragen als hulpmiddel om de expertise en eerlijkheid van een leverancier te toetsen. Let niet alleen op wat er wordt geantwoord, maar vooral hoe.

1. Is jullie oplossing AI-native of AI-first, en wat betekent dat voor de architectuur?
   Leveranciers gebruiken AI-native vaak als marketingterm zonder de technische betekenis ervan te begrijpen. Vraag hen om hun architectuur uit te leggen. Vraag ook welke functies deterministisch zijn en welke probabilistisch.
2. Hoe voldoet jullie oplossing aan de EU AI Act?
   De EU AI Act vereist dat leveranciers van risicovolle AI-oplossingen transparantie, passend menselijk toezicht, continue monitoring en datakwaliteitsbeheer garanderen.
3. Hoe voorkomen jullie bias in de AI-modellen?
   Leveranciers en werkgevers moeten ervoor zorgen dat AI-trainingsgegevens relevant, voldoende representatief, nauwkeurig en vrij van vooroordelen zijn om discriminerende uitkomsten te voorkomen.
4. Welke data gebruiken jullie voor training, en hoe garanderen jullie datakwaliteit en audittrail?
   AI-systemen zijn slechts zo goed als hun trainingsdata. Verouderde, biased of niet-representatieve datasets leveren gebrekkige output op.
5. Wordt onze bedrijfsdata gebruikt voor modeltraining, en hoe wordt privacy gewaarborgd?
   Je wilt dat de AI-oplossing toegang heeft tot je bedrijfsdata om relevante, gecontextualiseerde antwoorden te geven. De gevoelige werknemers- en kandidaatgegevens mogen echter nooit worden gebruikt om de onderliggende AI-modellen van de leverancier te trainen, omdat deze anders aan andere klanten of externe partijen kunnen worden blootgesteld. 
6. Hoe goed presteert jullie AI in verschillende talen en culturele contexten?
   AI-systemen worden vaak voornamelijk getraind met Engelstalige data en weerspiegelen overwegend Anglo-Amerikaanse culturele normen. In een divers Europees personeelsbestand heb je AI nodig die meerdere talen, regionale verschillen en culturele nuances in communicatiestijlen, werkpleknormen en verwachtingen begrijpt.
7. Wat gebeurt er als de AI fouten maakt?
   Geen enkel AI-systeem is perfect. Inzicht in faalmodi, foutpercentages en herstelmechanismen toont de volwassenheid van het systeem en de eerlijkheid van de leverancier.
8. Op welke onderliggende AI-modellen is jullie oplossing gebaseerd?
   Veel leveranciers van HR-technologie bouwen hun oplossingen op basismodellen van derden, zoals GPT, Claude of Gemini. Dit creëert verborgen afhankelijkheden die van invloed kunnen zijn op jouw kosten, gegevensbeveiliging, prestaties en levensvatbaarheid op lange termijn.
9. Wat zijn de doorlopende AI-kosten en hoe schalen die mee met gebruik?
   Veel AI-leveranciers hanteren prijsmodellen met variabele kosten; wat betaalbaar lijkt in een pilot, kan op grote schaal duur uitpakken.
10. Hoe lang duurt implementatie gemiddeld, en wat zijn de meest voorkomende knelpunten?
    Een oplossing die er briljant uitziet in een gecontroleerde leveranciersdemonstratie, kan moeite hebben met uw rommelige praktijkdata, complexe workflows, integraties van oudere systemen en weerstand tegen organisatorische veranderingen. Daardoor kan de kloof tussen demo en realiteit enorm zijn.

AI verandert HR onmiskenbaar. Door de juiste vragen te stellen, vind je leveranciers die inzetten op transparantie, veiligheid en échte waarde, niet op loze marketingpraat.