Pondělí 9. prosince 2019, svátek má Vratislav
  • schránka
  • Přihlásit Můj účet
  • Pondělí 9. prosince 2019 Vratislav

Automatizace v Amazonu selhala. Robot z uchazečů o práci vyřazoval ženy

  11:00aktualizováno  11:00
V Amazonu vytvořili robota, který měl procházet životopisy uchazečů o práci a filtrovat ty nevhodné. Jenže jak se ukázalo, v softwaru byl problém - robot z uchazečů vyřazoval ženy. Společnost tak projekt ukončila.

(ilustrační snímek) | foto: Reuters

Tým vývojářů budoval program na robotické hledání talentů od roku 2014. Právě díky automatizaci Amazon uspěl na poli on-line nakupování, ať už se to týkalo skladů nebo cenových rozhodování. Software na výběr lidí měl životopisům uchazečů přidělovat hodnocení od jedné do pěti hvězdiček, podobně, jako nakupující dávají hvězdičky produktům na stránkách Amazonu.

„Každý tenhle nástroj chtěl. Měl to být stroj, kam nacpete profily 100 lidí a on jich vyplivne pět, které pak najmeme,“ řekl agentuře Reuters zdroj, který si přál zůstat v anonymitě.

Jak najít ideálního zaměstnance? Recept šéfa Amazonu funguje už 20 let

V roce 2015 si ale společnost všimla, že nový systém není při hodnocení kandidátů neutrální co do jejich pohlaví. Počítačové modely totiž byly trénovány na životopisech, které firma dostala během deseti let. A vzhledem k dominanci mužů v technologických oborech pocházela většina právě od mužů.

Systém se tak naučil, že mužské kandidáty má preferovat. Dával „trestné“ body životopisům, které obsahovaly odvozeniny slova žena, jako třeba „kapitánka ženského šachového klubu“. Jako negativní hodnotil také absolvování školy, kam chodí jen ženy. 

Amazon proto programy upravil, aby na tyto konkrétní výrazy nereagovaly. Ale nešlo zaručit, že si stroje nevymyslí jiné způsoby třídění kandidátů, které by mohly být diskriminační. Firma proto nakonec speciální vývojářský tým loni rozpustila, protože manažeři v projekt ztratili důvěru. 

Fotogalerie

Společnost odmítla pro agenturu Reuters komentovat technologie, které využívá s tím, že personalisté Amazonu robota při hodnocení lidí nikdy nepoužívali. Zdroj Reuters však tvrdí opak. Že se na něj sice nikdy úplně nespoléhali, ale k jeho doporučením přihlíželi. 

Experiment v Amazonu ukazuje limity v učení umělé inteligence. Poslouží také jako lekce pro velké firmy, jako jsou Hilton Worldwide Holdings Goldman Sachs Group, které o automatizaci části procesu najímání pracovníků uvažují. 

Strojové učení

Podle průzkumu CareerBuilder z roku 2017 si 55 procent amerických šéfů oddělení lidských zdrojů myslí, že umělá inteligence bude do pěti let běžně vykonávat část jejich práce. 

Zaměstnavatelé dlouho sní o technologii, která by jim umožnila méně se spoléhat na subjektivní hodnocení lidských personalistů. Ale počítačoví vědci jako například Nihar Shah, který přednáší strojové učení na Carnegie Mellon University, vědí, že je před nimi ještě dlouhá cesta. „Zatím neumíme zajistit, aby algoritmus byl férový, šel dobře vysvětlit a interpretovat,“ upozornil. 

Pokus Amazonu začal ve stěžejním období. Strojové učení si získávalo čím dál víc pozornosti a personalisté chystali kobercový nálet: od června 2015 se počet lidí, který pro firmu pracují, více než ztrojnásobil na 575 700 lidí.

Tým dvanácti lidí ve vývojářském středisku firmy v Edinburghu vytvořil 500 počítačových modelů, které se zaměřovaly na specifické profesní dovednosti a lokace. Každý z nich rozeznával 50 000 slov, která se objevovala na životopisech bývalých kandidátů. 

Preference mužského pohlaví však nebyla jediným problémem. Kandidáty bez kvalifikace systém také například doporučoval na všechny typy pozic. I proto tedy Amazon nespolehlivý projekt ukončil.

Ženy jen s dětmi nebo do let a bez jizev. Sexistické nabídky práce v Číně

Firmy zkoušejí i jiné metody automatického náborování. Například Unilever nebo Hilton využívají služby start-upu HireVue, která na video pohovorech analyzuje mluvený projev a výrazy obličeje kandidátů. 

Banka Goldman Sachs si vytvořila vlastní analytický nástroj, který se pokouší zjistit, do jakého jejího oddělení by se uchazeč podle životopisu nejlépe hodil.

Profesionální sociální síť LinkedIn šla ještě dál: zaměstnavatelům nabízí algoritmické hodnocení kandidátů, kteří by se hodili na pozice, jež firmy na LinkedInu inzerují. Viceprezient LinkedIn Talent Solutions John Jersin však zdůrazňuje, že služba nemá nahradit tradiční personalisty. „Určitě bych nevěřil žádnému robotovi, který sám o sobě vybere kandidáta. Technologie ještě není tak daleko,“ říká.

Autor:
  • Nejčtenější

Firma přišla o miliony, při Black Friday kvůli chybě nabízela slevu 97 %

Švédská technologická firma Foreo, která působí i v Česku, nadělila během akce Black Friday kvůli cenové chybě svým...

Je nemravné mít na jogurtu přirážku sto procent, řekl ministr Toman

Kontrola dvojí kvality bude mířit zejména na nadnárodní potravinářské firmy, ty české s ní problém neměly. Ministr...

Jak se podvádí na EET: účtenky se smyšleným kódem i snižování tržeb

Falešná účtenka nebo její nevydání. Finanční správa popisuje, jak podnikatelé upravují software v pokladnách, aby...

Dělníci šikanovali agenturní kolegy. Dali jim projímadlo, zavřeli do bedny

Mladoboleslavská automobilka Škoda Auto dala výpověď pěti zaměstnancům, kteří šikanovali své kolegy najaté přes...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Škoda Auto vyplatí zaměstnancům další prémie, na Vánoce vyhlásí dovolenou

Prémii deset tisíc korun za výkon v roce 2019 vyplatí do konce týdne zhruba třiceti tisícům tarifních zaměstnanců...

Premium

Cítím hořkost. Bývalý šéf mordparty poprvé promluvil o svém odchodu

Nejznámější český kriminalista Josef Mareš sloužil u policie téměř třicet let, stál za objasněním řady vražd a...

Premium

Zalepili matce prsa, aby nemohla kojit. Při příbězích z Osvětimi pláče i průvodce

Lukáš Lev provází v koncentračních táborech a popisuje nacistická zvěrstva. Jeho babička si však stála za tím, že za...

Premium

Hořký čaj? Nesmysl! Pediatr v knize vyvrací mýty o domácím léčení dětí

Hradecký dětský lékař Ladislav Hanousek vydal knihu Maminko, není mi dobře, která má rodičům pomoci s léčbou i výchovou...

  • Další z rubriky

Indická technologická centra dusí úspěch, IT firmy čeká smog a zácpy

Indičtí „ajťáci“ a startupisté čelí těžké volbě. Mohou totiž buď zůstat v menších městech a brát malý plat, nebo se...

Japonsko přestalo růst, představilo proto rozsáhlá podpůrná opatření

Japonská vláda podpoří ekonomiku balíkem opatření v hodnotě zhruba 13 bilionů jenů (2,8 bilionu korun). Podle listu...

Pedofil není pomluva, řekl soud. Dal Muskovi za pravdu ve sporu s jeskyňářem

Americký podnikatel Elon Musk se nedopustil pomluvy, když ve svém loňském příspěvku na Twitteru označil britského...

Vlk z Wall Street má cenu zlata i na fotce. Snímek utržil 4,6 milionu

Fotka britského fotografa Davida Yarrowa inspirovaná filmem Vlk z Wall Street zazářila minulý týden na uměleckém...

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!

Najdete na iDNES.cz