De Amerikaanse burgerrechtenorganisatie ACLU heeft bij de Californische toezichthouder een klacht ingediend tegen assessmentleverancier Criteria Corporation. Inzet is Emotify, een test voor emotionele intelligentie die volgens de klacht te sterk lijkt op klinische diagnostiek voor autisme.
Klacht draait om gelijkenis met klinische diagnostiek
De ACLU en de ACLU of Northern California dienden de klacht op 6 oktober in bij het California Civil Rights Department. Zij vragen de toezichthouder te onderzoeken of de wervingstechnologie en de praktijken van Criteria Corporation in strijd zijn met de Fair Employment and Housing Act, de Californische antidiscriminatiewet, en met de Americans with Disabilities Act.
Centraal staat Emotify. In die test moeten kandidaten gezichtsuitdrukkingen interpreteren en koppelen aan beschrijvingen van emoties, onder meer via matching- en voorspellingsopdrachten. Volgens de klacht vertoont die opzet sterke gelijkenis met klinische instrumenten waarmee autisme en verwante neurologische aandoeningen worden vastgesteld. De test zou daarmee in de praktijk informatie opleveren over een mogelijke beperking van de kandidaat in plaats van over diens vermogen om het werk te doen. Amerikaanse werkgevers mogen vóór een voorwaardelijk arbeidsaanbod alleen naar dat laatste vragen. De ACLU stelt verder dat kandidaten met autisme onevenredig vaak kunnen afvallen, dat elementen als de snelheid van de test dat risico vergroten, en dat sollicitanten te weinig informatie krijgen om te beoordelen of zij aanpassingen of een alternatief nodig hebben.
Olga Akselrod, senior counsel bij het Racial Justice Program van de ACLU, stelt in het persbericht dat geen enkele sollicitant onderworpen zou moeten worden aan een assessment dat zo dicht tegen klinische diagnostiek aan ligt, en dat dit in een vroege fase van een sollicitatieprocedure onmiskenbaar onrechtmatig is. Dit citaat is een vertaling uit het Engels.
Ook andere producten genoemd in de klacht
De klacht beperkt zich niet tot Emotify. Volgens de ACLU kunnen ook andere producten van de leverancier leiden tot onderscheid op grond van handicap, ras en geslacht. Het gaat onder meer om een cognitieve aanlegtest, persoonlijkheidsvragenlijsten en op AI gebaseerde video- en observatietools. Bij Cognify, de cognitieve test, zouden ontwikkelaars al vroeg in het ontwikkelproces statistisch significante en praktisch betekenisvolle verschillen tussen etnische groepen hebben vastgesteld, aldus de klacht zoals beschreven door HR Dive.
Brian Dimmick, senior staff attorney bij het Disability Rights Program van de ACLU, stelt dat werkgevers die instrumenten gebruiken die eerder iets blootleggen over iemands beperking dan over diens geschiktheid voor de functie, het risico lopen sterke kandidaten mis te lopen. Ook dit citaat is vertaald uit het Engels.
Leverancier reageerde niet, zaak staat niet op zichzelf
Criteria Corporation had op het moment van publicatie niet gereageerd op een verzoek om commentaar van HR Dive. Een klacht bij het California Civil Rights Department is geen rechtszaak en geen oordeel. De toezichthouder bepaalt zelf of er een onderzoek volgt.
De zaak past wel in een bredere lijn. HR Dive wijst erop dat Sirius XM onlangs in een zaak over vermeende discriminatie door AI-wervingssoftware een summary judgment kreeg, en dat tegen Workday in Californië nog een lopende FEHA-zaak loopt over screeningtools. Opvallend aan de klacht tegen Criteria is dat niet de werkgever maar de leverancier het doelwit is, en dat het niet gaat om een ondoorzichtig AI-model maar om een klassiek psychometrisch product.
Wat dit betekent voor de Nederlandse markt
Instrumenten voor emotionele intelligentie, cognitieve capaciteiten en persoonlijkheid worden ook in Nederlandse selectieprocedures breed ingezet, vaak vroeg in de trechter. De vraag die in deze klacht centraal staat, namelijk of een test meet wat iemand kan of iets blootlegt over wie iemand is, raakt daarmee direct aan de Nederlandse praktijk. Onder de Wet gelijke behandeling op grond van handicap of chronische ziekte geldt eveneens dat onderscheid in de selectie gerechtvaardigd moet zijn en dat werkgevers verplicht zijn redelijke aanpassingen te bieden.
Voor Nederlandse HR- en recruitmentprofessionals is de praktische les vooral dat de verantwoordelijkheid gedeeld is. De ACLU richt zich op de leverancier, maar benadrukt dat ook werkgevers de plicht hebben om de assessments die zij inzetten grondig te toetsen. Dat betekent weten wat een instrument meet, welke onderbouwing daarvoor bestaat, of er is gekeken naar verschillen tussen groepen, en of kandidaten vooraf voldoende informatie krijgen om een aanpassing of alternatief te vragen.
Bron: HR Dive (https://www.hrdive.com/news/aclu-files-california-complaint-over-emotify-hiring-assessment-tool/832596/)
