Uzņēmumi arvien biežāk izmanto digitālos rīkus, tostarp mākslīgā intelekta (MI) risinājumus, lai apstrādātu darba pieteikumus. Taču, cik lielā mērā šobrīd var paļauties uz to, ka MI izvēlēsies labāko iespējamo amata kandidātu? Jaunākajā Vašingtonas Universitātes pētījumā atklāts, ka MI rīku izmantošana darbinieku atlases procesā un CV caurskatīšanā noved pie ievērojamām rasu un dzimuma aizspriedumu problēmām.
Pētījums parāda, ka MI var būt tendence izrādīt priekšroku noteiktām demogrāfiskām grupām, tādējādi izceļot nepilnības, kas saistītas ar cilvēku diskrimināciju darbinieku atlasē. Pētījuma ietvaros tika pārbaudīti trīs lielie valodu modeļi - no Salesforce, Contextual AI un Mistral, atklājot, ka
85% gadījumu tie dod priekšroku CV ar vārdiem, kas saistīti ar baltādainiem vīriešiem.
Savukārt 11% gadījumu MI modeļi deva priekšroku vārdiem, kas saistīti ar sievietēm. Starp 3 miljoniem testēto kombināciju darba pozīciju, rases un dzimuma ziņā visnegatīvākā attieksme tika novērota pret melnādainiem vīriešiem. MI modeļi gandrīz 100% gadījumu deva priekšroku citiem kandidātiem.
Viens no lielākajiem jautājumiem ir, kāpēc algoritmi tik bieži izrāda tendenci atlasīt baltādainus vīriešus kā potenciālos kandidātus? Pēc pētnieku domām, atbilde slēpjas algoritmu apmācības procesos – dati, ar kuriem modeļi tiek apmācīti, jau ietver esošās sabiedrības nevienlīdzības, un MI modelis vienkārši atkārto vai pat pastiprina šīs tendences.
Viens no pārsteidzošākajiem atklājumiem šajā pētījumā bija tas, ka MI deva priekšroku baltādainiem vīriešiem pat tajos amatos, kurus biežāk ieņem sievietes, piemēram, personāla vadība. Šis pētījums ir tikai viens no daudziem, kas apliecina satraucošos aizspriedumus MI modeļos. Tomēr jautājums par to, kā šīs problēmas risināt, paliek atklāts.
