Nástroje pro nábor práce s umělou inteligencí nemusí zlepšit rozmanitost náboru, tvrdí odborníci

Topline

Nástroje pro nábor pracovních míst, které tvrdí, že používají umělou inteligenci, aby se vyhnuly genderovým a rasovým předsudkům, nemusí zlepšit rozmanitost při přijímání zaměstnanců a mohly by ve skutečnosti tyto předsudky udržovat, tvrdili v neděli vědci z University of Cambridge, kteří programy – které v minulosti vyvolaly kritiku – jako způsob využití technologie k rychlému řešení hlubšího problému.

Klíčová fakta

V článku vydaném Filozofie a technologievýzkumníci se zabývali tvrzeními několika společností, které nabízejí náborové nástroje založené na umělé inteligenci, z nichž mnohé tvrdí, že eliminují předsudky a podporují rozmanitost tím, že skrývají jména, pohlaví a další identifikátory kandidátů, a některé z nich hodnost kandidáti na základě skenů životopisů, online hodnocení a analýzy řeči a výrazů uchazečů.

Vědci – dva profesoři z Centra pro genderová studia University of Cambridge – tvrdili, že tyto nástroje mohou ve skutečnosti podporovat uniformitu při najímání, protože reprodukují kulturní předsudky „ideálního kandidáta“, kterým byli historicky bílí nebo evropští muži.

Nástroje také nemusí zlepšit rozmanitost, protože jsou založeny na minulých firemních datech, a proto mohou podporovat kandidáty, kteří jsou nejvíce podobní současným zaměstnancům.

Existuje „malá odpovědnost za to, jak jsou tyto produkty vyráběny nebo testovány,“ uvedla Eleanor Drageová, spoluautorka studie a výzkumnice Centra pro genderová studia University of Cambridge, a dodala, že tato technologie by mohla sloužit jako „nebezpečná“. zdroj „dezinformací o tom, jak lze nábor „odchýlit“ a učinit spravedlivějším.

Zásadní nabídka

„Tvrzením, že rasismus, sexismus a další formy diskriminace mohou být odstraněny z náborového procesu pomocí umělé inteligence, tyto společnosti redukují rasu a pohlaví na bezvýznamné datové body, spíše než na systémy moci, které utvářejí to, jak se pohybujeme světem. “ řekl Drage v prohlášení.

Tečna

Amazon to oznámil v roce 2018 zastavit pomocí nástroje pro nábor AI ke kontrole životopisů uchazečů o zaměstnání poté, co zjistil, že systém silně diskriminuje ženy. Je to proto, že počítačové modely, na které se spoléhal, byly vyvinuty na základě životopisů předložených společnosti za posledních 10 let, které většinou pocházely od mužských žadatelů.

Klíčové pozadí

Organizace se stále více obracejí na AI, aby jim pomohla řídit procesy náboru pracovních míst. V jednom Anketa 2020 z více než 300 vedoucích pracovníků v oblasti lidských zdrojů citovaných autory nedělního listu, poradenská společnost Gartner zjistila, že 86 % zaměstnavatelů používá virtuální technologie ve svých náborových praktikách, což je trend, který se zrychlil od doby, kdy pandemie Covid-19 donutila mnohé přesunout práci online. Zatímco některé společnosti tvrdily, že umělá inteligence může nabídnout nákladově a časově efektivnější náborový proces, některé odborníci mít nalezeno systémy mají tendenci podporovat – spíše než eliminovat – rasově a genderově zaujaté najímání tím, že replikují existující předsudky z reálného světa. Několik amerických zákonodárců ano Mířil k řešení předsudků v systémech umělé inteligence, protože technologie se stále rychle vyvíjí a existuje jen málo zákonů, které by ji regulovaly. Bílý dům tento týden zveřejnil „Bleprint for the AI ​​Bill of Rights“, který tvrdí, že algoritmy používané při najímání byly nalezeny tak, že „odrážejí a reprodukují existující nežádoucí nerovnosti“ nebo vkládají nové „předpojatosti a diskriminace“. Návrh – který není právně závazný ani oficiální vládní politikou – vyzývá společnosti, aby zajistily, že umělá inteligence nebude diskriminovat ani neporuší soukromí dat, a aby si uživatelé uvědomili, kdy je technologie používána.

Co sledovat

V seznamu doporučení autoři nedělního Filozofie a technologie článek navrhl, aby se společnosti, které vyvíjejí technologie AI, zaměřovaly na širší, systematické nerovnosti namísto „individualizovaných případů zkreslení“. Navrhují například vývojářům softwaru, aby prozkoumali kategorie používané k třídění, zpracování a kategorizaci kandidátů a jak tyto kategorie mohou podporovat diskriminaci tím, že se spoléhají na určité předpoklady o pohlaví a rase. Výzkumníci také tvrdí, že personalisté by se měli snažit porozumět tomu, jak fungují náborové nástroje AI a jaká jsou některá z jejich potenciálních omezení.

Překvapující fakt

Evropská unie ve své novince klasifikovala náborový software a nástroje pro hodnocení výkonu založené na umělé inteligenci jako „vysoce rizikové“. návrh právní rámec pro umělou inteligenci, což znamená, že nástroje by podléhaly větší kontrole a musely by splňovat určité požadavky na shodu.

Další čtení

DC chce vést boj proti zaujatosti AI (Axios)