A titkos eszköz, amely kiválasztotta azokat a jelölőket, akik a társaság részesei lehetnek, nagyon egyértelmű elfogultságot mutatott a nőkkel szemben

@abc_tecnologia Frissítve: 2018.10.15. 14: 10h

mesterséges

Kapcsolódó hírek

A mesterséges intelligencia (AI) nem verhetetlen. Az Amazon pedig már megtapasztalta saját húsaiban. Bár a technológia általában szövetséges, nem minden döntés függhet rajta. Emiatt, Az Amazon úgy döntött, hogy megkerüli az AI-t, amely segített az alkalmazottak toborzásában, mert egyértelműen szexista.

Amint arról a Reuters beszámolt, az a titkos mesterséges intelligencia-alapú eszköz, amellyel az Amazon kiválasztotta, hogy ki lehet a vállalat tagja nagyon egyértelmű elfogultságot mutatott a nőkkel szemben.

A társaság Jeff Bezos ben kezdődött 2014 számítógépes programok építésére aki áttekintette a pályázók önéletrajzát. A cél a keresés gépesítése és a legjobb tehetség megtalálása volt - vallották be a Reutersnek a vállalathoz közeli források.

Az automatizálás kulcsfontosságú volt az Amazon e-kereskedelemben való dominanciájában, legyen szó raktárakról vagy az árképzési döntésekről. A cég kísérleti bérbeadási eszköze az AI segítségével egy és öt csillag közötti jelöltek értékelésére szolgál, ugyanúgy, mint a felhasználók által a weboldalon vásárolt termékeket.

2015-ben a vállalat rájött, hogy új rendszere nem minősíti nemjelöltnek a szoftverfejlesztői munkákra és egyéb technikai pozíciókra pályázókat. Mint a Reuters elmagyarázza, ennek az az oka Az AI-t egy évtized alatt összegyűjtött jelölt-önéletrajzokkal oktatták. Legtöbbjük férfi volt, így az AI-t a egyértelmű férfi dominancia. Így az Amazon számítógépes rendszere mindig a férfiak mellett döntött. A „nők” szót tartalmazó tanterveket büntetést szabták ki, képzettségüktől függetlenül.

Az Amazon szerkesztette a számítógépes programokat semlegessé, de nem működött. A jelölteket továbbra is diszkriminatív módon osztályozták, így a seattle-i társaság 2017 elején végül feloszlatta az AI-t, mert a vezetők elvesztették reményüket, hogy a projektet előkészítik.

A vállalat soha nem ajánlott állításokat ezzel a szexista gyakorlattal kapcsolatban, miközben mindig azt védte, hogy elkötelezett a munkahelyi sokszínűség és egyenlőség mellett.

Férfi nyelv

Az Amazon kísérlete a vállalat számára döntő időben kezdődött. A gépi tanulás egyre nagyobb teret hódított a technológiai világban, és az Amazon HR osztálya egy sor felvételi munkába kezdett: 2015 júniusa óta a vállalat globális munkaereje megháromszorozódott.

Ezzel a helyzettel szembesülve létrehozott egy csapatot az Edinburgh Mérnöki Központban, amely legfeljebb tizenkét emberből állt. Céljuk egy olyan mesterséges intelligencia kifejlesztése volt, amely gyorsan bejárhatja az internetet, és megtalálhatja a toborzásra érdemes jelölteket - mondják a Reuters hírügynökségnek a céghez közeli források.

A csoport létrehozta 500 számítógépes modell konkrét munkafunkciókra és helyekre összpontosítva. Megtanították mindegyiket felismerni mintegy 50 000 kifejezést, amelyek megjelentek a korábbi jelöltek önéletrajzában. Az algoritmusok megtanulták kicsi jelentőséget tulajdonítani a pályázók körében általános készségeknek. A technológia azonban előnyben részesítette azokat a jelölteket, akik igék használatával írták le magukat, amelyek általában gyakrabban fordulnak elő a férfi mérnökök önéletrajzában.

Szövetséges eszköz

A CareerBuilder tehetségszoftver-cég 2017-es felmérése szerint az amerikai HR-menedzserek 55 százaléka szerint az AI az elkövetkező öt évben rendszeres munkája lesz.

A toborzók kihasználhatják a technológiát a toborzási hálózat kiszélesítésére és csökkenthetik a HR szakemberek szubjektív véleményeire való támaszkodást. Nihar sah, aki gépi tanulást tanít a Carnegie Mellon Egyetemen, azt mondja, hogy még nagyon sok a munka. «Hogyan lehet biztosítani az algoritmus igazságosságát, hogyan lehet biztosítani, hogy valóban értelmezhető és megmagyarázható, még mindig nagyon messze van», Mondja a szakértő.

Ennek ellenére vannak olyan vállalatok, amelyek arra tippelnek, hogy kihasználják az AI előnyeit a felvétel során. A LinkedIn például a jelentkezőket kereső vállalatoknak algoritmikus rangsorolást kínál a pályázók alapján, annak alapján, hogy profiljuk hogyan egyezik meg az ajánlattal.

Mindazonáltal, John Jersin, A LinkedIn Talent Solutions alelnöke biztosította, hogy a szolgáltatás ne helyettesítse a hagyományos toborzókat. "Természetesen nem szabad vakon bízni egyetlen mesterséges intelligencia-rendszerben sem, és egyedül kell döntenie a bérlésről vagy sem, mert a technológia még nem áll készen" - mondta Jersin a Reuters hírügynökségnek.