Sztuczna inteligencja w rękach cyberprzestępców

opublikowano: 11 stycznia 2021
Sztuczna inteligencja w rękach cyberprzestępców lupa lupa
Technologie sztucznej inteligencji i uczenia maszynowego mogą skutkować powstaniem wielu nowych zagrożeń cyfrowych, fizycznych i politycznych, fot. materiały prasowe

Cyberprzestępcy już wykorzystują sztuczną inteligencję i uczenie maszynowe, a będą to robić na wiele różnych sposobów, m.in. do manipulowania obrotem kryptowalutami

Firma Trend Micro wspólnie z Europolem i Międzyregionalnym Instytutem Badań nad Przestępczością i Sprawiedliwością ONZ (UNICRI) opracowała nowy raport dotyczący złośliwego wykorzystania i nadużycia sztucznej inteligencji. W opublikowanym materiale przeanalizowano obecny stan tego zjawiska, a także realne scenariusze, w których cyberprzestępcy mogą używać tych technologii do swoich nielegalnych celów. Artykuł badawczy dostarcza informacje na temat istniejących i potencjalnych ataków wykorzystujących sztuczną inteligencję i uczenie maszynowe oraz zalecenia dotyczące ograniczania tego ryzyka.

Sztuczna inteligencja (ang. Artificial Intelligence, AI) w znaczący sposób wspiera rozwój świata, zapewniając potencjalnie lepszą wydajność oraz większą automatyzację i autonomię systemów. Jako technologia podwójnego zastosowania, stanowi główny filar czwartej rewolucji przemysłowej. Uczenie maszynowe (ang. Machine Learning, ML) — jeden z obszarów AI, który analizuje duże zbiory danych w celu wyodrębniania wzorców za pomocą algorytmów — pozwala przedsiębiorstwom, organizacjom i rządom na imponujące osiągnięcia, które zwiększają innowacyjność i usprawniają działalność.

Już dziś stosowanie zarówno AI, jak i ML w biznesie jest bardzo rozpowszechnione. Do 2020 roku 37 proc. przedsiębiorstw i organizacji zintegrowało sztuczną inteligencję w pewnej formie ze swoimi systemami i procesami. Dzięki narzędziom opartym na tych technologiach przedsiębiorstwa mogą lepiej przewidywać zachowania zakupowe klientów, co przyczynia się do zwiększenia przychodów.

Mimo że AI i ML mogą wspierać działalność biznesową, newralgiczną infrastrukturę i poszczególne branże, a także pomagać w rozwiązywaniu niektórych z największych wyzwań społecznych (w tym pandemii Covid-19), technologie te mogą również skutkować powstaniem wielu nowych zagrożeń cyfrowych, fizycznych i politycznych. Aby zapewnić zarówno przedsiębiorstwom, jak i użytkownikom indywidualnym ochronę przed przestępcami, którzy planują wykorzystywać AI, konieczna jest zdolność do wykrywania i rozumienia zagrożeń oraz potencjalnych przypadków złośliwego wykorzystania systemów AI.

Obecne sposoby nadużywania sztucznej inteligencji i uczenia maszynowego

Cechy, które czynią systemy AI i ML integralną częścią przedsiębiorstw — takie jak dostarczanie automatycznych prognoz poprzez analizę dużych ilości danych i wykrywanie wzorców — są również cechami, które sprawiają, że cyberprzestępcy tak chętnie wykorzystują je do osiągania zysków.

• Deepfake

Jednym z bardziej popularnych sposobów nadużywania AI są tzw. deepfake’i, które polegają na stosowaniu sztucznej inteligencji do tworzenia treści dźwiękowych i wizualnych lub manipulowania nimi w celu nadania im autentyczności. Metoda deepfake doskonale się nadaje do wykorzystania w kampaniach dezinformacyjnych, ponieważ na pierwszy rzut oka trudno je odróżnić od rzeczywistych treści — nawet przy użyciu rozwiązań technologicznych. Ze względu na szerokie wykorzystanie Internetu i mediów społecznościowych deepfake’i mogą docierać do milionów osób w różnych częściach świata z niespotykaną wcześniej szybkością.

• Odgadywanie haseł przy pomocy AI

Cyberprzestępcy wykorzystują technologię ML, aby ulepszać algorytmy używane do odgadywania haseł użytkowników. Już dziś istnieją bardziej tradycyjne rozwiązania, takie jak HashCat (zaawansowane odzyskiwanie hasła) i John the Ripper (zaawansowany program do łamania haseł offline), które porównują różne warianty skrótu haseł, aby skutecznie odkrywać te, które im odpowiadają. Dzięki wykorzystaniu sieci neuronowych i generatywnych sieci przeciwników (ang. Generative Adversarial Network, GAN) cyberprzestępcy mogliby jednak analizować ogromne zbiory danych dotyczących haseł i generować różne wariacje haseł, pasujące do rozkładu statystycznego. W przyszłości będzie to prowadzić do bardziej precyzyjnego i ukierunkowanego odgadywania haseł, co zwiększy szansę cyberprzestępców na zysk.

• Podszywanie się pod użytkowników mediów społecznościowych

Cyberprzestępcy wykorzystują AI również do naśladowania ludzkich zachowań. Są na przykład w stanie z powodzeniem oszukiwać systemy wykrywania botów w platformach społecznościowych, takich jak Spotify, naśladując wzorce użytkowania podobne do ludzkich. Podszywanie się pod innych za pomocą sztucznej inteligencji pozwala cyberprzestępcom zarabiać poprzez generowanie fałszywych odsłuchań i ruchu na stronie wybranego artysty.

• Hakowanie przy wsparciu AI

Cyberprzestępcy wykorzystują struktury AI także do hakowania hostów podatnych na zagrożenia. Za przykład może tutaj posłużyć użytkownik platformy Torum, który wyraził zainteresowanie użyciem DeepExploit — narzędzia do przeprowadzania testów penetracyjnych z obsługą ML. Użytkownik ten chciał wiedzieć, w jaki sposób połączyć DeepExploit z Metasploit— platformą testów penetracyjnych do zadań związanych z gromadzeniem informacji, tworzeniem i testowaniem exploitów.

Złośliwe wykorzystywanie i nadużywanie AI i ML w przyszłości

Spodziewamy się, że w przyszłości cyberprzestępcy będą wykorzystywać AI na różne sposoby. Bardzo prawdopodobne, że będą kierować swój wzrok w stronę AI z zamiarem zwiększania zakresu i skali swoich ataków i unikania wykrycia.

Przewidujemy, że będą wykorzystywać sztuczną inteligencję do prowadzenia szkodliwych działań opartych na taktykach inżynierii społecznej, których potencjalnym celem będą przedsiębiorstwa i instytucje. Dzięki wykorzystaniu sztucznej inteligencji cyberprzestępcy mogą automatyzować pierwsze kroki ataku poprzez generowanie treści, usprawniać proces gromadzenia wiedzy o firmach oraz przyspieszać tempo wykrywania potencjalnych ofiar i najbardziej narażonych procesów biznesowych. Może to prowadzić do szybszego i lepiej ukierunkowanego oszukiwania firm za pomocą różnego typu ataków — w tym phishingu i BEC (ang. Business Email Compromise — ataków na pocztę elektroniczną firm).

Sztuczna inteligencja może być również używana do manipulowania obrotem kryptowalutami czy posłużyć do wyrządzania szkód lub nawet zadawania fizycznych obrażeń.

Technologie AI i ML mają wiele pozytywnych zastosowań — takich jak rozpoznawanie obiektów i mowy, tłumaczenie treści, wyodrębnianie wzorców i wspieranie procesów decyzyjnych w różnych branżach i dziedzinach zastosowań. Z drugiej strony technologie te są również nadużywane w celach szkodliwych i niezgodnych z prawem, dlatego bardzo ważne jest rozumienie możliwości, scenariuszy i wektorów ataku dostępnych za ich pomocą. Jeśli zyskamy taką świadomość, będziemy lepiej przygotowani do ochrony systemów, urządzeń i ogółu społeczeństwa przed zaawansowanymi atakami i nadużyciami.

Więcej informacji na temat technologii wykorzystywanych przez deepfake oraz innych przypadków szkodliwego wykorzystania ML i AI, a także przewidywania co do tego, w jaki sposób technologie te mogą być nadużywane w przyszłości, można znaleźć KLIKAJĄC TUTAJ

Źródło: materiały prasowe

 

 

Komentarze (0)
Dodająć komentarz, akceptujesz regulamin forum.
dodaj komentarz
 
 

obecnie brak komentarzy, zapraszamy do komentowania.

 

Zaloguj się, by uzyskać dostęp do unikatowych treści oraz cotygodniowego newslettera z informacjami na temat najnowszego wydania

Zarejestruj się | Zapomniałem hasła

Szanowny Czytelniku

Chcielibyśmy poinformować Cię o przetwarzaniu Twoich danych osobowych oraz zasadach, na jakich będzie się to odbywało po dniu 25 maja 2018 r., zgodnie z instrukcjami, o których mowa poniżej.

Od 25 maja 2018 r. zaczęło obowiązywać Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (określane w skrócie również jako „RODO”, „ORODO”, „GDPR” lub „Ogólne Rozporządzenie o Ochronie Danych”). RODO obowiązywać będzie w identycznym zakresie we wszystkich krajach Unii Europejskiej, w tym także w Polsce, i wprowadza wiele zmian w zasadach regulujących przetwarzanie danych osobowych, które będą miały wpływ na wiele dziedzin życia, w tym na korzystanie z usług internetowych. Przed przejściem do serwisu naszym celem jest zapoznanie Cię ze szczegółami stosowanych przez nas technologii oraz przepisami, które niebawem wejdą w życie, tak aby dać Ci szeroką wiedzę i bezpieczeństwo korzystania z naszych serwisów internetowych Prosimy Cię o zapoznanie się z podstawowymi informacjami.

Co to są dane osobowe?

Podczas korzystania z naszych usług internetowych Twoje dane osobowe mogą być zapisywane w plikach cookies lub podobnych technologiach, instalowanych przez nas lub naszych Zaufanych Partnerów na naszych stronach i urządzeniach do zbierania i przetwarzania danych osobowych w celu udostępniania personalizowanych treści i reklam, bezpieczeństwa oraz analizowania ruchu na naszych stronach.

Kto będzie administratorem Twoich danych osobowych?

Administratorami Twoich danych osobowych będzie Fratria sp. z o.o., a także nasi Zaufani Partnerzy, tj. firmy i inne podmioty, z którymi współpracujemy przede wszystkim w zakresie marketingowym. Listę Zaufanych Partnerów możesz sprawdzić w każdym momencie pod niniejszym linkiem „Zaufani Partnerzy”.

Po co są nam potrzebne Twoje dane?

Aby dostosować reklamy do Twoich potrzeb i zainteresowań, zapewnić Ci większe bezpieczeństwo usług oraz dokonywać pomiarów, które pozwalają nam ciągle udoskonalać oferowane przez nas usługi.

Twoje uprawnienia

Zgodnie z RODO przysługują Ci następujące uprawnienia wobec Twoich danych osobowych i ich przetwarzania przez nas i Zaufanych Partnerów. Jeśli udzieliłeś zgody na przetwarzanie danych, możesz ją w każdej chwili wycofać. Przysługuje Ci również prawo żądania dostępu do Twoich danych osobowych, ich sprostowania, usunięcia lub ograniczenia przetwarzania, prawo do przeniesienia danych, wyrażenia sprzeciwu wobec przetwarzania danych oraz prawo do wniesienia skargi do organu nadzorczego – GIODO. Uprawnienia powyższe przysługują także w przypadku prawidłowego przetwarzania danych przez administratora.

Zgoda

Wyrażenie przez Ciebie zgody jest dobrowolne. W każdym momencie możesz również edytować swoje preferencje w zakresie udzielonej zgody, w tym nawet wycofać ją całkowicie, klikając w ustawienia zaawansowane lub wyrażając zgodę i przechodząc na naszą stronę polityki prywatności. Każde przetwarzanie Twoich danych musi być oparte na właściwej, zgodnej z obowiązującymi przepisami, podstawie prawnej. Podstawą prawną przetwarzania Twoich danych osobowych w celu świadczenia usług, w tym dopasowywania ich do Twoich zainteresowań, analizowania ich i udoskonalania oraz zapewniania ich bezpieczeństwa, jest niezbędność do wykonania umów o ich świadczenie (tymi umowami są zazwyczaj regulaminy lub podobne dokumenty dostępne w usługach, z których korzystasz na naszych stronach internetowych). Jeśli chcesz się zgodzić na przetwarzanie przez Fratrię sp. z o.o. i jej Zaufanych Partnerów Twoich danych osobowych zebranych w związku z korzystaniem przez Ciebie z naszych stron i aplikacji internetowych, w tym ich przetwarzanie w plikach cookies itp. instalowanych na Twoich urządzeniach i odczytywanych z tych plików danych, możesz w łatwy sposób wyrazić tę zgodę, klikając w przycisk „Zgadzam się i przechodzę do serwisu”. Jeśli nie chcesz wyrazić opisanej wyżej zgody lub ograniczyć jej zakres, prosimy o kliknięcie w „Ustawienia zaawansowane”. Wyrażenie zgody jest dobrowolne. Dodatkowe informacje dotyczące przetwarzania danych osobowych oraz przysługujących Ci uprawnień przeczytasz na „Polityce prywatności”.

×

Ustawienia zaawansowane

Aby dostosować reklamy i treści do Twoich potrzeb i zainteresowań, zapewnić Ci większe bezpieczeństwo usług oraz dokonywać pomiarów, które pozwalają nam ciągle udoskonalać oferowane przez nas usługi, podczas korzystania z naszych usług internetowych Twoje dane osobowe mogą być zapisywane w plikach cookies lub podobnych technologiach instalowanych przez nas lub naszych Zaufanych Partnerów na naszych stronach i urządzeniach do zbierania i przetwarzania danych osobowych.

Aktywna zgoda

Zgadzam się na przechowywanie w moim urządzeniu plików cookies, jak też na przetwarzanie w celach marketingowych, w tym profilowanie, moich danych osobowych pozostawianych w ramach korzystania oferowanych przez Wydawnictwo Fratria sp. z o.o. oraz zaufanych partnerów usług Wydawnictwa. Wyrażam zgodę na przetwarzanie danych w ramach korzystania z oferowanych przez Wydawnictwo Fratria zaufanych partnerów usług. Pamiętaj, że wyrażenie zgody jest dobrowolne.

Dodatkowe informacje dotyczące przetwarzania danych osobowych oraz przysługujących Ci uprawnień przeczytasz na Polityce prywatności.