Hvordan søgeord kan hacke ansættelsesprocessen

En assisterende professor i datalogi og teknik ved University of Texas i Arlington har fundet ud af, at jobansøgere i gennemsnit kan forbedre deres position med mindst 16 pladser på en pulje på 100 ansøgere ved at anvende en algoritme, der bruger jobspecifikke søgeord.

Shirin Nilizadeh sagde, at hun var motiveret til at forfølge denne forskning efter at have set venner ikke blive udvalgt til stillinger eller anden runde interviews.

"Vi fandt ud af, at du kan skræddersy dit CV til et bestemt job ved at bruge specifikke søgeord, der kunne få dig skubbet mod toppen," sagde hun. "Det er en slags hack til rekrutteringsprocessen."

Nilizadehs papir - "Attacks Against Ranking Algorithms with Text Embeddings:A Case Study on Recruitment Algorithms" - blev accepteret i Proceedings of the Fourth BlackboxNLP Workshop on Analysing and Interpreting Neutral Networks for NLP . Anahita Samadi, nu doktorand ved UTA, som studerede under Nilizadeh, ledede projektet og præsenterede det på 2021-konferencen om Empirical Methods in Natural Language Processing.

Tekstindlejringsalgoritmer, der bruges i jobrekruttering, matcher ord og sætninger i CV'er til jobbeskrivelsen for at opnå lighedsscore. CV'er rangeres baseret på disse resultater. Få undersøgelser har indtil nu vist, at rangordningsalgoritmer, der bruger tekstindlejringer, er sårbare over for modstridende angreb.

"Vi troede, at rekrutteringsalgoritmer var det bedste eksempel på sådanne rangeringsalgoritmer, og derfor besluttede vi at arbejde på dem," sagde Nilizadeh. "Målet med vores angreb var at identificere de søgeord fra jobbeskrivelsen, der kan forbedre placeringen af ​​CV'et."

Som forventet forbedres placeringen ved at tilføje flere søgeord. Forskningen viste dog også, at tilføjelse af for mange lignende ord eller sætninger muligvis ikke forbedrer rangeringen af ​​et CV.

Et af hovedemnerne, som Nilizadeh studerer i UTA Security and Privacy Research Lab, er modstandsdygtigheden af ​​kunstig intelligens (AI)-baserede, datadrevne systemer. Med andre ord tester hun systemer, der bruger AI mod mulige angreb og evaluerer robustheden af ​​disse systemer.

Hong Jiang, formand og professor i Institut for Computer Science and Engineering, sagde, at Nilizadehs arbejde viser lovende.

"Det kan være et værktøj, som potentielle medarbejdere og arbejdsgivere kan bruge i jobsøgningsprocessen," sagde Jiang.