Videoscreening van kandidaten: wat richt FB hier wel en niet in?

Werving en selectie van kandidaten staat in de lijst van hoog-risico-AI-toepassingen. Het uitzendbureau is hier gebruiksverantwoordelijke (deployer), de leverancier is aanbieder (provider). Die rollen zijn niet uitwisselbaar, ook al noemt de leverancier zich 'AI-gedreven partner'.

Verplichtingen aan de kant van het uitzendbureau:

• Menselijk toezicht door personen met voldoende kennis en bevoegdheid om de score te negeren. Dat is hier feitelijk afwezig: 30% valt af zonder dat iemand kijkt.
• Logging van de werking van het systeem, gedurende de wettelijke termijn, zodat achteraf te reconstrueren is welke score tot welke beslissing leidde.
• Informeren van de kandidaten dat AI wordt gebruikt, en dat zij daarover uitleg kunnen vragen.
• Gebruik alleen op basis van de informatie van de aanbieder: de gebruiksaanwijzing, de nauwkeurigheid en de beperkingen. Een brochure van twee pagina's over 'explainability' is geen documentatie waaruit blijkt dat de scores 'communicatief vermogen' en 'betrouwbaarheid' gevalideerd zijn voor logistieke en zorgfuncties.
• DPIA vóór de start, en betrokkenheid van de ondernemingsraad bij de invoering van een personeelsvolgsysteem.

De goedkopere Amerikaanse leverancier is geen neutraal kostenvoordeel zolang de verplichtingen niet aantoonbaar kunnen worden nagekomen.

Toestemming werkt hier niet, om twee redenen die los van elkaar al voldoende zijn.

Er is geen vrije keuze. Een kandidaat die een baan wil, kan moeilijk weigeren een screeningsinstrument te ondergaan dat de werkgever verplicht stelt. Waar een machtsverschil bestaat tussen de betrokkene en de verwerkingsverantwoordelijke, is toestemming niet vrijelijk gegeven en dus geen geldige grondslag. Een vinkje lost dat niet op; het legt de verantwoordelijkheid bij de zwakkere partij.

Automatische afwijzing is een besluit, geen advies. Een score onder 40 die zonder menselijke tussenkomst tot afwijzing leidt, is een geautomatiseerd besluit met rechtsgevolgen voor de kandidaat. Daar horen waarborgen bij: menselijke tussenkomst, de mogelijkheid om de eigen positie te betwisten en een begrijpelijke uitleg.

Daar komt een inhoudelijk punt bij: 'betrouwbaarheid' is geen meetbaar kenmerk van een vijfminutenvideo, en de geldigheid van de score voor deze functies is niet aangetoond. Dat is precies waar de verordening op stuurt: niet alleen of er toestemming is, maar of het instrument geschikt is voor het doel.

Advies aan de manager: stop de propositie 'vinkje en klaar' en begin bij de vraag welk besluit de organisatie wil ondersteunen. Als het antwoord is 'de intercedent sneller laten kijken', is er geen automatische afwijzing nodig.

FB moet hier niet alleen bouwen wat gevraagd is, maar de functionele eisen zo formuleren dat ze de juridische en ethische eisen vertalen naar inrichting.

Wel bouwen:

• Een blokkerende stap: geen afwijzing zonder dat een intercedent de video of het profiel heeft beoordeeld. De score is input voor de beoordeling, geen uitkomst.
• Een vastgelegde afwijkingsmogelijkheid, met verplichte reden bij afwijken. Dat maakt zichtbaar of het systeem eigenlijk wordt genegeerd.
• Logging van score, besluit, beslisser en tijdstip, met een bewaartermijn die past bij de wettelijke eisen.
• Een kandidatenportaal met een begrijpelijke uitleg, in gewone taal, over het gebruik van AI en over de mogelijkheid om het besluit te bespreken.
• Een technische scheiding tussen 'video bekeken' en 'score gezien', zodat in de rapportage te zien is of een mens daadwerkelijk heeft gekeken.

Wat FB weigert of tegenhoudt: livegang vóór de DPIA en de betrokkenheid van de ondernemingsraad; het inrichten van een volledig geautomatiseerde afwijzing; en het accepteren van de leveranciersbrochure als onderbouwing van de validiteit. FB legt dat vast in het acceptatiedocument, zodat het besluit om toch te starten bij de bestuurder ligt en niet bij de techniek.