SI oszukuje lepiej od ludzi. Przynajmniej, jeśli chodzi o phishing

pandemia, złośliwe oprogramowanie

Phishing polega na podawaniu się za inne osoby bądź instytucje w celu wyłudzenia np. danych bądź środków finansowych. Sztuczna inteligencja okazała się zaskakująco skuteczna, kiedy zlecono jej takie zadanie.

Naukowcy odkryli bowiem, że mogą wykorzystać model przetwarzania języka GPT-3 do znacznego obniżenia bariery wejścia w tworzeniu kampanii phishingowych na masową skalę. Aby być dokładnym, należy zaznaczyć, że w tym przypadku chodziło o tzw. spear phishing, będący bardziej wyrafinowaną formą oszustwa. Jest ona bowiem dostosowana do oszukiwanej osoby i wymaga jej odpowiedniej znajomości.

Czytaj też: Syntetyczne komórki przechowujące wspomnienia? Naukowcy wykonali krok w do stworzenia sztucznego mózgu

Przedstawiciele singapurskiej rządowej agencji technologicznej zaprezentowali wyniki eksperymentu, w którym wysłali do 200 osób dostosowane wiadomości oparte na phishingu. Część z nich zostało napisanych przez ludzi, podczas gdy pozostałe przygotowała sztuczna inteligencja. W komunikatach zawarto linki, które w normalnych okolicznościach mogłyby prowadzić do niebezpiecznych stron – w tym przypadku wystarczył jedynie komunikat o skuteczności przedsięwzięcia.

Phishing w wykonaniu sztucznej inteligencji okazał się skuteczniejszy niż ten autorstwa ludzi

Jakie były wnioski? Dość zaskakujące, ponieważ sztuczna inteligencja okazała się znacznie lepsza w oszukiwaniu ludzi, aniżeli oni sami. Poza narzędziem GPT-3, autorzy eksperymentu użyli też innych opartych na tzw. głębokim uczeniu. Dzięki temu oprogramowanie było w stanie opracować „portret psychologiczny” osoby, która miała być oszukana. Innymi słowy, każda wiadomość była spersonalizowana i dostosowana tak, aby potencjalne ofiary otrzymały jak najlepiej dopasowane wiadomości.

Czytaj też: Automatyczny odkurzacz od Samsunga rozpoznaje przeszkody dzięki sztucznej inteligencji

Zdaniem ekspertów, przepisy mające na celu kontrolowanie rozwoju SI, proponowane między innymi przez Unię Europejską, mogłyby skutecznie przeciwdziałać oszustwom. Poza tym, konieczne wydaje się też opracowanie metod wykrywania generowanych przez algorytmy wiadomości, aby łatwiej je było filtrować. Miałoby to ułatwić walkę nie tylko z phishingiem, ale również z fake newsami czy tzw. deep fake’ami.