Aktualisht kandidatët e kualifikuar mund të ’zhduken’ nga procesi i punësimit përpara se aplikimet e tyre të shihen nga sytë e njeriut. Përdorimi i teknologjisë si ATS, ose sistemi i gjurmimit të aplikantëve, është i përhapur. Sipas studimit “Punëtorët e fshehur: talent i pashfrytëzuar” nga shkolla e biznesit në Harvard, 99% e kompanive të Fortune 500 përdorin ATS kur kërkojnë punësime të reja. Dhe 63% e vendeve të anketuara në të gjithë Gjermaninë, Shtetet e Bashkuara dhe Mbretërinë e Bashkuar bëjnë të njëjtën gjë.
Sipas Manjari Raman – një nga studiuesit që qëndron pas këtij studimi dhe Drejtori i Lartë i Programit Menaxhues për Projektin e Ardhmërisë së Punës në Harvard Business School, kompanitë i drejtohen këtyre sistemeve të automatizuara sepse ato ndonjëherë janë të mbushura me aplikacione. Ekziston gjithashtu një anë e errët e dokumentuar mirë e kësaj teknologjie – ndonjëherë të jesh i kualifikuar nuk mjafton për të marrë një intervistë pune.
Në vitin 2018, Amazon kuptoi se softueri i punësimit që po zhvillonte për katër vjet, po vlerësonte kandidate të kualifikuara femra nën homologët e tyre meshkuj. Arsyeja për këtë ishte e thjeshtë. Inteligjenca artificiale u trajnua sipas rekordit të mëparshëm të punësimit të kompanisë, dhe meqenëse burrat dominojnë industrinë e teknologjisë, ajo vendosi që kandidatët meshkuj ishin të preferueshëm se ato femra.
Në të njëjtin vit, auditët e një mjeti tjetër kontrolli zbuluan se softueri i rendiste njerëzit me emrin Jared dhe që kishin luajtur sport në shkollën e mesme në mënyrë më të favorshme sesa aplikantët e tjerë. Sipas studimit të përmendur më parë të Harvardit, ka gjithashtu miliona njerëz në të gjithë Europën dhe SHBA të klasifikuar si ‘punëtorë të fshehur’, ose njerëz të kualifikuar që janë të filtruar nga procesi i aplikimit për shkak të gjërave si boshllëqe të mëdha në rezymetë e tyre.
ATS gjithashtu mund të refuzojë aplikantët për shkak të postimeve të gjata të punës. Disa rajone dhe vende po përpiqen të adresojnë këtë çekuilibër të fuqisë duke lëvizur për të rregulluar këtë teknologji gjithnjë në zhvillim. Zyrtarët e Bashkimit Europian po punojnë për rregulla novatore për të rregulluar AI që mund të bëhet standardi de fakto për vendet globale për shkak të madhësisë së bllokut 27 kombesh dhe tregut të tij.
Në Shtetet e Bashkuara, New York City po punon për një ligj që do t’u kërkonte kompanive të informojnë kandidatët se aplikacionet e tyre po shqyrtohen nga AI. Dhe Illinois miratoi një ligj që kërkon që kompanitë të njoftojnë njerëzit se aplikacionet e tyre do të kontrollohen nga AI dhe do të marrin pëlqimin e tyre.
Kina po harton gjithashtu rregullore që kërkojnë vlerësime sigurie për çdo produkt që përdor AI, ndërsa mbikëqyrësi i konkurrencës në Mbretërinë e Bashkuar ka hapur një rishikim të tregut.