Sztuczna inteligencja Amazona nie lubiła kobiet!

TeamQuest 05.11.2018 r. News!
Sztuczna inteligencja

Daily Mail - brytyjski tabloid, poinformował że Amazon zakończył pracę sztucznej inteligencji, wspierającej organizację w procesie selekcji i rekrutacji kandydatów. Powodem zamknięcia eksperymentalnego projektu, było odkrycie przez analityków i programistów specjalizujących się w uczeniu maszynowym, że ich narzędzie rekrutacyjne dyskryminuje kobiety.
Zespół z Edynburga był odpowiedzialny za rozwój systemów ATS (systemy wspierające rekrutację) od 2014 prowadził eksperymantalny projekt polegający na zbudowaniu i wdrożeniu narzędzia zwiększającego efektywność pracy HR. System miał dbać o deduplikację CV oraz co najważniejsze, automatycznie wskazywać najlepsze potencjalne talenty. W toku analizy pracy narzędzia, okazała się, że system znalazł sposób na dyskryminację kobiet, pomimo wdrożonych w aplikację zabezpieczeń przeciw dyskryminacyjnych.

ATS do budowania automatycznego rankingu kandydatów wykorzystywał sztuczną inteligencję. Nadawał kandydatom ocenę w postaci ilości gwiazdek - od 1 do 5 - twierdzi Daily Mail.
Automatyzacja to słowo klucz we wszystkich działaniach Amazona począwszy od magazynów, polityki cenowej, na wszystkich działaniach e-commercowych kończąc.
Dzięki wykorzystaniu AI w procesie zautomatyzowanej rekrutacji ze 100 kandydatów firma na bazie rekomendacji systemu zatrudniała 5 najlepszych osób.

W 2015 firma zdała sobie sprawę, że system rekrutując na stanowiska programistyczne nie ocenia kandydatów w sposób neutralny. Dane historyczne z ostatnich 10 lat zostały wykorzystane w modelu automatycznej oceny kandydatów na bazie wzorców zawartych w życiorysach osób, które pozytywnie przeszły proces rekrutacji.

Większość zatrudnionych osób na stanowiskach technicznych i programistycznych była mężczyznami, spowodowało to, że algorytmy preferowały płeć męską, a jednocześnie oceniając nisko CV kandydatów w których były zawarte informacje pozwalające na zdefiniowanie osoby jako kobiety.
Firma próbowała rozwiązać te problemy dodając kolejne warunki anty dyskryminacyjne. Jednak w obawie, że sztuczna inteligencja znajdzie sposób na ponowne ocenianie kandydatów ze względu na płeć, Amazon zdecydował się na zamknięcie projektu.

Z punktu widzenia rekrutera IT, wdrożenie narzędzi softwarowych, które w zautomatyzowany sposób przeprowadzą selekcje i ocenę kandydatów jest fantastyczną możliwością ułatwiającą i przyśpieszającą pracę. Jednak ilość ryzyk w połączeniu oraz charakter danych, na których będzie się uczyła sztuczna inteligencja powoduje, że bardzo mało firm decyduje się na uruchomienie takich programów.

TeamQuest podjęliśmy decyzję, że wszystkie CV które do nas trafiają, są ciągle czytanie i ocenianie przez ludzi.

Najnowsze oferty pracy:

Polecane wpisy na blogu IT: