Daily Mail - brytyjski tabloid, poinformował że Amazon zakończył pracę sztucznej inteligencji, wspierającej organizację w procesie selekcji i rekrutacji kandydatów. Powodem zamknięcia eksperymentalnego projektu, było odkrycie przez analityków i programistów specjalizujących się w uczeniu maszynowym, że ich narzędzie rekrutacyjne dyskryminuje kobiety.
Zespół z Edynburga był odpowiedzialny za rozwój systemów ATS (systemy wspierające rekrutację) od 2014 prowadził eksperymantalny projekt polegający na zbudowaniu i wdrożeniu narzędzia zwiększającego efektywność pracy HR. System miał dbać o deduplikację CV oraz co najważniejsze, automatycznie wskazywać najlepsze potencjalne talenty. W toku analizy pracy narzędzia, okazała się, że system znalazł sposób na dyskryminację kobiet, pomimo wdrożonych w aplikację zabezpieczeń przeciw dyskryminacyjnych.
ATS do budowania automatycznego rankingu kandydatów wykorzystywał sztuczną inteligencję. Nadawał kandydatom ocenę w postaci ilości gwiazdek - od 1 do 5 - twierdzi Daily Mail.
Automatyzacja to słowo klucz we wszystkich działaniach Amazona począwszy od magazynów, polityki cenowej, na wszystkich działaniach e-commercowych kończąc.
Dzięki wykorzystaniu AI w procesie zautomatyzowanej rekrutacji ze 100 kandydatów firma na bazie rekomendacji systemu zatrudniała 5 najlepszych osób.
W 2015 firma zdała sobie sprawę, że system rekrutując na stanowiska programistyczne nie ocenia kandydatów w sposób neutralny. Dane historyczne z ostatnich 10 lat zostały wykorzystane w modelu automatycznej oceny kandydatów na bazie wzorców zawartych w życiorysach osób, które pozytywnie przeszły proces rekrutacji.
Większość zatrudnionych osób na stanowiskach technicznych i programistycznych była mężczyznami, spowodowało to, że algorytmy preferowały płeć męską, a jednocześnie oceniając nisko CV kandydatów w których były zawarte informacje pozwalające na zdefiniowanie osoby jako kobiety.
Firma próbowała rozwiązać te problemy dodając kolejne warunki anty dyskryminacyjne. Jednak w obawie, że sztuczna inteligencja znajdzie sposób na ponowne ocenianie kandydatów ze względu na płeć, Amazon zdecydował się na zamknięcie projektu.
Z punktu widzenia rekrutera IT, wdrożenie narzędzi softwarowych, które w zautomatyzowany sposób przeprowadzą selekcje i ocenę kandydatów jest fantastyczną możliwością ułatwiającą i przyśpieszającą pracę. Jednak ilość ryzyk w połączeniu oraz charakter danych, na których będzie się uczyła sztuczna inteligencja powoduje, że bardzo mało firm decyduje się na uruchomienie takich programów.
W TeamQuest podjęliśmy decyzję, że wszystkie CV które do nas trafiają, są ciągle czytanie i ocenianie przez ludzi.
