TeamQuest Blog

Sztuczna inteligencja Amazona nie lubiła kobiet!

Sztuczna inteligencja Amazona nie lubiła kobiet! News!

TeamQuest 05.11.2018 r.

Daily Mail - brytyjski tabloid, poinformował że Amazon zakończył pracę sztucznej inteligencji, wspierającej organizację w procesie selekcji i rekrutacji kandydatów. Powodem zamknięcia eksperymentalnego projektu, było odkrycie przez analityków i programistów specjalizujących się w uczeniu maszynowym, że ich narzędzie rekrutacyjne dyskryminuje kobiety.

Zespół z Edynburga był odpowiedzialny za rozwój systemów ATS (systemy wspierające rekrutację) od 2014 prowadził eksperymantalny projekt polegający na zbudowaniu i wdrożeniu narzędzia zwiększającego efektywność pracy HR. System miał dbać o deduplikację CV oraz co najważniejsze, automatycznie wskazywać najlepsze potencjalne talenty. W toku analizy pracy narzędzia, okazała się, że system znalazł sposób na dyskryminację kobiet, pomimo wdrożonych w aplikację zabezpieczeń przeciw dyskryminacyjnych.

ATS do budowania automatycznego rankingu kandydatów wykorzystywał sztuczną inteligencję. Nadawał kandydatom ocenę w postaci ilości gwiazdek - od 1 do 5 - twierdzi Daily Mail.

Automatyzacja to słowo klucz we wszystkich działaniach Amazona począwszy od magazynów, polityki cenowej, na wszystkich działaniach e-commercowych kończąc.

Dzięki wykorzystaniu AI w procesie zautomatyzowanej rekrutacji ze 100 kandydatów firma na bazie rekomendacji systemu zatrudniała 5 najlepszych osób.

W 2015 firma zdała sobie sprawę, że system rekrutując na stanowiska programistyczne nie ocenia kandydatów w sposób neutralny. Dane historyczne z ostatnich 10 lat zostały wykorzystane w modelu automatycznej oceny kandydatów na bazie wzorców zawartych w życiorysach osób, które pozytywnie przeszły proces rekrutacji.

Większość zatrudnionych osób na stanowiskach technicznych i programistycznych była mężczyznami, spowodowało to, że algorytmy preferowały płeć męską, a jednocześnie oceniając nisko CV kandydatów w których były zawarte informacje pozwalające na zdefiniowanie osoby jako kobiety.

Firma próbowała rozwiązać te problemy dodając kolejne warunki anty dyskryminacyjne. Jednak w obawie, że sztuczna inteligencja znajdzie sposób na ponowne ocenianie kandydatów ze względu na płeć, Amazon zdecydował się na zamknięcie projektu.

Z punktu widzenia rekrutera IT, wdrożenie narzędzi softwarowych, które w zautomatyzowany sposób przeprowadzą selekcje i ocenę kandydatów jest fantastyczną możliwością ułatwiającą i przyśpieszającą pracę. Jednak ilość ryzyk w połączeniu oraz charakter danych, na których będzie się uczyła sztuczna inteligencja powoduje, że bardzo mało firm decyduje się na uruchomienie takich programów.

TeamQuest podjęliśmy decyzję, że wszystkie CV które do nas trafiają, są ciągle czytanie i ocenianie przez ludzi.

Najnowsze oferty pracy:

Polecane wpisy na blogu IT:

Szukasz pracownika IT?

Dostarczymy Ci najlepszych specjalistów z branży IT. Wyślij zapytanie

Wyrażam zgodę TeamQuest Sp. z o.o. na przetwarzanie moich danych osobowych w celu marketingu produktów i usług własnych TeamQuest, w tym na kontaktowanie się ze mną w formie połączenia telefonicznego lub środkami elektronicznymi.
Administratorem podanych przez Ciebie danych osobowych jest TeamQuest Sp. z o.o., z siedzibą w Warszawie (00-814), ul. Miedziana 3a/21, zwana dalej „Administratorem".
Jeśli masz jakiekolwiek pytania odnośnie przetwarzania przez nas Twoich danych, skontaktuj się z naszym Inspektorem Ochrony Danych (IOD). Do Twojej dyspozycji jest pod adresem e-mail: office@teamquest.pl.
W jakim celu i na jakiej podstawie będziemy wykorzystywać Twoje dane? Dowiedz się więcej