Wat veel sollicitanten zich misschien niet realiseren is dat de grootste hindernis bij het solliciteren tegenwoordig de omgang met AI is. Kandidaten moeten er vaak één beheren kunstmatige intelligentie een systeem dat hun cv’s screent en in stilte beslist wie verder gaat, waarna hun sollicitaties in een lade of spammap worden opgeborgen en nooit het daglicht zien.
Nu een nieuwe klasse actie dinsdag ingediend is de eerste in de Verenigde Staten die een AI aanklaagt werkgelegenheid bedrijf wegens overtreding van de Fair Credit Reporting Act. Eightfold AI, een door durfkapitaal ondersteund AI-wervingsplatform, wordt door twee werknemers in Californië aangeklaagd omdat ze naar verluidt rapporten hebben gemaakt die worden gebruikt om sollicitanten te screenen zonder hun medeweten, toestemming of enige mogelijkheid om fouten te corrigeren.
“Ik heb op honderden banen gesolliciteerd, maar het voelt alsof een onzichtbare kracht mij ervan weerhoudt om goed in aanmerking te komen”, zegt Erin Kistler, een van de sollicitanten, in een persbericht. Volgens de klacht solliciteerden beide eisers naar functies bij verschillende bedrijven die Eightfold AI gebruiken, waaronder PayPal en Microsoft.
Van de duizenden banen waarop ze het afgelopen jaar heeft gesolliciteerd, heeft slechts 0,3% van haar sollicitaties geleid tot een vervolggesprek of sollicitatiegesprek, zegt Kistler. verteld New York Times. “Het is ontmoedigend en ik weet dat ik niet de enige ben die zich zo voelt.”
Het algoritme van Ottefold AI trawler-carrièresites, vacaturesites en CV-databases om een dataset te creëren van “1 miljoen functietitels, 1 miljoen vaardigheden en de profielen van meer dan 1 miljard mensen die werkzaam zijn in alle banen, beroepen, sectoren en regio’s”, aldus de website van het bedrijf – waarvan een groot deel “onnauwkeurig, onvolledig of verkregen is uit onbekende bronnen van derden”, beweert de klacht.
Met behulp van een AI-model dat op die gegevens is getraind, zeggen de eisers dat Eightfold AI sollicitaties scoort op een schaal van 1 tot 5, gebaseerd op de vaardigheden, ervaring en de doelstellingen van de rekruteringsmanager. Deze door AI gegenereerde evaluaties dienen als “consumentenrapporten onder de federale Fair Credit Reporting Act (FCRA) en de Californische wet”, beweert de rechtszaak.
In tegenstelling tot kredietrapporten (een soort consumentenrapport dat de FCRA reguleert om nauwkeurigheid en eerlijkheid te garanderen), ontvangen aanvragers geen feedback over hun score of hoe de beoordeling is gegenereerd, en zijn ze zich er zelden van bewust dat een algoritme ze überhaupt heeft beoordeeld. Als de tool fouten maakt, hebben kandidaten geen mogelijkheid om deze te corrigeren.
Hierdoor ontstaat een ‘black box’-situatie waarin we kunnen zien wat er in een AI-systeem gaat en wat er uit komt. Maar de redenering daartussen blijft verborgen of onbegrijpelijk voor mensen of werkgevers die op de score vertrouwen bij het overwegen van potentiële aanwervingen. Dit gebrek aan transparantie is verontrustend in een tijd waarin steeds meer bedrijven dat doen vertrouw op AI voor het aannemen van personeel en kandidatenscreening.
Dat heeft een woordvoerder van Eightfold AI gezegd Snel bedrijf dat “deze karakterisering van onze producten feitelijk onjuist is. Eightfold levert technologie die bedrijven gebruiken om hun talentprocessen te beheren en met kandidaten in contact te komen. Eightfold ‘snoopt’ niet en schraapt geen persoonlijke webgeschiedenis, sociale media en dergelijke om geheime dossiers op te bouwen. Het platform van Eightfold werkt op gegevens die door kandidaten aan onze klanten zijn verstrekt of door onze klanten zijn verstrekt.
“We gebruiken informatie zoals vaardigheden, ervaring en opleiding die sollicitanten aan onze klanten willen verstrekken, en gegevens die door onze klanten onder contract zijn goedgekeurd.” De woordvoerder van het bedrijf wees ook op Eightfolds blauwdruk voor meer informatie over de specifieke gegevenspraktijken.
De aanklagers pleiten intussen niet voor de uitbanning van AI uit de werkgelegenheid. In plaats daarvan vragen ze dat AI-bedrijven aan dezelfde normen moeten voldoen als anderen.
“Het feit dat dit bedrijf gebruik maakt van een mooi klinkende AI-technologie en wordt ondersteund door risicokapitaal betekent niet dat het boven de wet staat”, zegt David Seligman, CEO van Towards Justice, een van de advocatenkantoren die de eisers in de class action vertegenwoordigt, in het persbericht. “Dit is niet het Wilde Westen.”
Maar naarmate AI steeds vaker voorkomt in de werkgelegenheid, kunnen dit soort juridische conflicten steeds vaker voorkomen.
