TeamQuest Blog

Deepfake najpoważniejszym zagrożeniem dla AI

Deepfake najpoważniejszym zagrożeniem dla AI

Marcin Sarna , 12.08.2020 r.

Czy Keanu Reeves faktycznie powstrzymał napad w sklepie? Nie, to tylko przykład deepfake.

Deepfake to nie tylko rozrywka na Youtube

Jeżeli jeszcze nie wiesz czym jest Deepfake obejrzyj najpierw nadzwyczaj szczerego prezydenta Obamę albo znanego aktora na zakupach w sklepie.

W raporcie University College London fałszywe treści audio lub wideo zostały uznane przez ekspertów za najbardziej niepokojące zastosowanie sztucznej inteligencji pod względem potencjalnych zastosowań w przestępczości lub terroryzmie.

Raport UCL

Badanie zostało opublikowane w Crime Science i sfinansowane przez Dawes Center for Future Crime działające na UCL. Znajdziemy w nim prognozowanych 20 sposobów na jakie będzie można wykorzystać sztuczną inteligencję na cele cyberprzestępczości w ciągu najbliższych 15 lat. Zostały one uszeregowane według wagi zagrożenia i w oparciu o szkodę, jaką mogą wyrządzić, zysk lub potencjalny zysk przestępczy, łatwość skorzystania z danej metody oraz trudność w powstrzymaniu jej zastosowania w praktyce.

Zdaniem autorów analizy fałszywe treści będą trudne do wykrycia i zatrzymania. Najgorsze jest szerokie spektrum zastosowań - od zdyskredytowania osoby publicznej przez wydobycie funduszy do podszywania się pod znajomego lub członka rodziny podczas rozmowy wideo. Twierdzili, że takie treści mogą prowadzić do powszechnej nieufności wobec dowodów dźwiękowych i wizualnych, co samo w sobie byłoby szkodą społeczną.

Zobacz również: Oszustwo prawie idealne - era niewiary w to co widzisz, już trwa

Jednak Deepfake to nie tylko fałszywa treść. Pięć innych przestępstw wykorzystujących sztuczną inteligencję wzbudza nie mniejsze obawy niż to, że opowiemy o przebiegu ostatniej narady w pracy konkurencji podszywającej się pod naszego szefa. Jest to wykorzystanie pojazdów bez kierowcy jako broni, tworzenie bardziej dostosowanych do nadawcy wiadomości phishingowych (tzw. spear phishing), zakłócanie działania systemów kontrolowanych przez sztuczną inteligencję, zbieranie informacji online w celu szantażu na dużą skalę oraz tworzenie fałszywych wiadomości (tzw. fake news).

Przeczytaj też: Pierwszy na świecie sztuczny prezenter telewizji informacyjnej zadebiutował w Chinach

Zdaniem profesora Lewisa Griffina (UCL Computer Science):

Wraz ze wzrostem możliwości technologii opartych na sztucznej inteligencji rośnie również ich potencjał do wykorzystania w celach przestępczych. Aby odpowiednio przygotować się na ewentualne zagrożenia sztuczną inteligencją, musimy zidentyfikować, jakie mogą być te zagrożenia, i jak mogą wpłynąć na nasze życie.

Metodologia badania

Naukowcy na podstawie artykułów naukowych, wiadomości i raportów dotyczących bieżących wydarzeń ale także literatury pięknej i kultury popularnej zestawili 20 przestępstw wykorzystujących sztuczną inteligencję. Następnie zaprosili 31 osób z doświadczeniem w dziedzinie sztucznej inteligencji na trwającą dwa dni dyskusję aby ocenić stopień zagrożenia płynący z potencjalnych przestępstw. Uczestnicy pochodzili ze środowisk akademickich, sektora prywatnego, policji, rządu i organów bezpieczeństwa państwa.

Outsourcing przestępstwa

Zdaniem doktora Matthew Caldwella:

Takie środowisko internetowe, w którym dane są własnością, a moc informacyjna, idealnie nadaje się do wykorzystania przez działalność przestępczą opartą na sztucznej inteligencji.

Zauważył też, że w przeciwieństwie do wielu tradycyjnych przestępstw, przestępstwa w sferze cyfrowej można łatwo udostępniać, powtarzać, a nawet sprzedawać, co umożliwia wprowadzanie na rynek technik przestępczych i świadczenie przestępstw jako usługi. Oznacza to, że przestępcy mogą być w stanie zlecić na zewnątrz trudniejsze aspekty przestępstw opartych na sztucznej inteligencji.

UCL zapowiedziało kolejne raporty dotyczące tej materii.

Najnowsze oferty pracy:

Polecane wpisy na blogu IT:

Szukasz pracownika IT?

Dostarczymy Ci najlepszych specjalistów z branży IT. Wyślij zapytanie

Wyrażam zgodę TeamQuest Sp. z o.o. na przetwarzanie moich danych osobowych w celu marketingu produktów i usług własnych TeamQuest, w tym na kontaktowanie się ze mną w formie połączenia telefonicznego lub środkami elektronicznymi.
Administratorem podanych przez Ciebie danych osobowych jest TeamQuest Sp. z o.o., z siedzibą w Warszawie (00-814), ul. Miedziana 3a/21, zwana dalej „Administratorem".
Jeśli masz jakiekolwiek pytania odnośnie przetwarzania przez nas Twoich danych, skontaktuj się z naszym Inspektorem Ochrony Danych (IOD). Do Twojej dyspozycji jest pod adresem e-mail: office@teamquest.pl.
W jakim celu i na jakiej podstawie będziemy wykorzystywać Twoje dane? Dowiedz się więcej