Kärkilinja
Työnrekrytointityökalut, jotka väittävät käyttävänsä tekoälyä sukupuoli- ja rodullisten ennakkoluulojen välttämiseksi, eivät ehkä lisää monimuotoisuutta rekrytoinnissa ja voivat itse asiassa säilyttää nämä ennakkoluulot, Cambridgen yliopiston tutkijat väittivät sunnuntaina esittäessään ohjelmia, jotka ovat saaneet kritiikkiä aiemmin. keinona käyttää tekniikkaa nopean ratkaisun tarjoamiseksi syvempään ongelmaan.
Google Visionin tekoälyllä toimiva kasvojentunnistusjärjestelmä näytetään.
Getty Images
Key Facts
Lehdessä, jonka on julkaissut Filosofia ja tekniikka, tutkijat tarkastelivat väitteitä useilta yrityksiltä, jotka tarjoavat tekoälyllä varustettuja rekrytointityökaluja. Monet niistä väittävät poistavansa ennakkoluuloja ja edistävänsä monimuotoisuutta piilottamalla ehdokkaiden nimet, sukupuolet ja muut tunnisteet. sijoitus ehdokkaat ansioluetteloskannausten, online-arviointien sekä hakijoiden puheen ja ilmeiden analyysin perusteella.
Tutkijat – kaksi Cambridgen yliopiston sukupuolitutkimuskeskuksen professoria – väittivät, että nämä työkalut voivat itse asiassa edistää yhdenmukaisuutta palkkauksessa, koska ne toistavat "ihanteellisen ehdokkaan" kulttuurisia ennakkoluuloja, jotka ovat historiallisesti olleet valkoisia tai eurooppalaisia miehiä.
Työkalut eivät myöskään välttämättä paranna monimuotoisuutta, koska ne perustuvat yrityksen aikaisempiin tietoihin ja voivat siten edistää ehdokkaita, jotka ovat eniten samankaltaisia kuin nykyiset työntekijät.
"On vähän vastuuta siitä, kuinka nämä tuotteet rakennetaan tai testataan", Eleanor Drage, tutkimuksen toinen kirjoittaja ja tutkija Cambridgen yliopiston sukupuolitutkimuskeskuksen kanssa, sanoi lausunnossaan ja lisäsi, että tekniikka voi toimia "vaarallisena". lähde "väärininformaatiolle siitä, kuinka rekrytointi voidaan 'puolutella' ja tehdä oikeudenmukaisemmaksi."
Kriittinen tarjous
"Väittäessään, että rasismi, seksismi ja muut syrjinnän muodot voidaan riisua rekrytointiprosessista tekoälyn avulla, nämä yritykset vähentävät rodun ja sukupuolen merkityksettömiin tietopisteisiin sen sijaan, että valtajärjestelmät muokkaavat tapaamme liikkua maailmassa, Drage sanoi lausunnossaan.
Tangentti
Amazon ilmoitti vuonna 2018 tekevänsä pysäkki käyttää tekoälyrekrytointityökalua työnhakijoiden ansioluetteloiden tarkistamiseen sen jälkeen, kun se havaitsi järjestelmän syrjivän voimakkaasti naisia. Tämä johtuu siitä, että tietokonemallit, joihin se luotti, on kehitetty yritykselle viimeisten 10 vuoden aikana toimitettujen ansioluetteloiden perusteella, jotka tulivat pääosin miespuolisista hakijoista.
Avaintaustaa
Organisaatiot ovat yhä useammin kääntyneet tekoälyn puoleen auttamaan työnhakuprosessien hallinnassa. Yhdessä 2020-kysely Sunnuntaisen lehden kirjoittajien mainitsemasta yli 300 henkilöstöjohtajasta konsulttiyritys Gartner havaitsi, että 86 prosenttia työnantajista käyttää virtuaaliteknologiaa rekrytointikäytännöissään, mikä on kiihtynyt sen jälkeen, kun Covid-19-pandemia pakotti monet siirtämään työtä verkossa. Vaikka jotkut yritykset ovat väittäneet, että tekoäly voi tarjota kustannus- ja aikatehokkaamman palkkausprosessin, jotkut asiantuntijat omistaa löytyi järjestelmillä on taipumus edistää – eikä eliminoida – rotuun ja sukupuoleen perustuvaa palkkaamista toistamalla olemassa olevia ennakkoluuloja todellisesta maailmasta. Useat Yhdysvaltain lainsäätäjät ovat tehneet jonka tarkoituksena puuttua tekoälyjärjestelmien harhaan, sillä teknologia kehittyy edelleen nopeasti ja sen säätelemiseksi on vain vähän lakeja. Valkoinen talo julkaisi tällä viikolla "Tekoälyn Bill of Rights" -suunnitelma, jossa väitetään, että palkkaamisessa käytettyjen algoritmien on havaittu "heijastavan ja toistavan olemassa olevaa ei-toivottua eriarvoisuutta" tai sisällyttävän siihen uutta "harhaa ja syrjintää". Suunnitelmassa – joka ei ole laillisesti sitova tai virallinen hallituksen käytäntö – kehotetaan yrityksiä varmistamaan, ettei tekoäly syrji tai loukkaa tietosuojaa, ja saamaan käyttäjät tietoisiksi siitä, milloin tekniikkaa käytetään.
Mitä katsella
Suositusluettelossa Sunday's -lehden kirjoittajat Filosofia ja tekniikka Paperi ehdotti, että tekoälyteknologiaa kehittävät yritykset keskittyisivät laajempaan, systemaattiseen epätasa-arvoon "yksilöllisten ennakkotapausten sijaan". He esimerkiksi ehdottavat, että ohjelmistokehittäjät tutkivat ehdokkaiden lajitteluun, käsittelyyn ja luokitteluun käytettyjä luokkia ja sitä, kuinka nämä luokat voivat edistää syrjintää tukeutumalla tiettyihin sukupuolta ja rotua koskeviin oletuksiin. Tutkijat väittävät myös, että HR-ammattilaisten tulisi yrittää ymmärtää, miten tekoälyn rekrytointityökalut toimivat ja mitkä ovat niiden mahdolliset rajoitukset.
Yllättävä tosiasia
Euroopan unioni on luokitellut tekoälyllä toimivat palkkausohjelmistot ja suorituskyvyn arviointityökalut "korkean riskin" luokkaan luonnos Tekoälyä koskeva oikeudellinen kehys, mikä tarkoittaa, että työkaluja valvottaisiin enemmän ja niiden olisi täytettävä tietyt vaatimustenmukaisuusvaatimukset.
Kirjallisuutta
Lähde: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/