Mroczna strona AI

Описание: Playlista:    • AI w praktyce  
Materiał wygenerowany w Gemini Notebook (d. NotebookLM), na podstawie źródeł

Notatka z Gemini Notebook:

Sztuczna inteligencja, mimo swojego ogromnego potencjału do czynienia dobra, w niewłaściwych rękach staje się precyzyjnym narzędziem manipulacji i cyberprzestępczości. Jak wskazuje badaczka i hakerka Rachel Tobac oraz inni specjaliści ds. bezpieczeństwa, **„narzędzia dostosowują się do rąk i pragnień tych, którzy ich używają”**, a rozwój generatywnej AI dał przestępcom możliwość tworzenia wiarygodnych oszustw na niespotykaną dotąd skalę.

Współczesne kłamstwo i dezinformacja zostały przez technologię *„turbodoładowane”* i przeniosły się na tzw. *„szczebel ludowy”* – zaawansowane narzędzia do fałszerstw są dziś tanie i dostępne dla każdego, kto posiada smartfon lub komputer.

Źli ludzie wykorzystują te technologie na kilka kluczowych sposobów:

1. Manipulacja rzeczywistością (Deepfaki i Cheapfaki)
*Klonowanie głosu i wizerunku (Vishing):* Przestępcy wykorzystują zaledwie kilkusekundowe próbki dźwiękowe do sklonowania głosu bliskich osób. Wykorzystują to w dramatycznych oszustwach telefonicznych (np. symulując porwanie dziecka i błagając o pilny okup) lub podszywając się pod pracowników banku, IT czy przełożonych w celu wyłudzenia danych.
*Oszustwa korporacyjne na miliony dolarów:* Przykładem z Hongkongu jest pracownik działu finansowego, który przelał oszustom *25 milionów dolarów* po tym, jak wziął udział w wideokonferencji z deepfake’ami swoich rzekomych współpracowników i dyrektora finansowego.
*Niszczenie reputacji i fałszywe oskarżenia:* W Maryland niezadowolony pracownik szkoły stworzył deepfake’owe nagranie audio, na którym jego szef (dyrektor liceum) rzekomo wygłaszał rasistowskie komentarze, co doprowadziło do niesłusznego zawieszenia dyrektora. Ponadto deepfaki są powszechnie wykorzystywane bez zgody ofiar do tworzenia pornografii (szczególnie wymierzonej w nastolatki), szantażu oraz cyberprzemocy.
*Cheapfaki i uzbrajanie niewinnych odpowiedzi:* Oszuści wcale nie muszą łamać zabezpieczeń zaawansowanych modeli wideo (takich jak Sora od OpenAI), by czynić szkody. Wystarczy wygenerować „zgodne z regulaminem”, niewinne materiały i podać je w fałszywym kontekście (np. pokazanie tłumu w garniturach czekającego przed bankiem w celu wywołania paniki rynkowej i runu na banki, czy pokazanie rzekomo zielonego ramienia po zabiegu medycznym, by zniechęcić ludzi do leczenia w czasie kryzysu zdrowia publicznego).

2. Wyrafinowany phishing i "Spear Phishing"
*Koniec z błędami ortograficznymi:* Tradycyjny phishing opierał się na łatwych do wykrycia, łamanych tekstach. AI pozwala dziś każdemu oszustowi pisać bezbłędne, idealne stylistycznie wiadomości w dowolnym języku, bezbłędnie imitujące znane marki (jak Apple, Microsoft czy banki).
*Ataki precyzyjnie celowane (Spear Phishing):* AI automatycznie przeczesuje media społecznościowe w poszukiwaniu informacji o konkretnej ofierze, tworząc dossier o jej życiu, aby przygotować spersonalizowaną wiadomość uderzającą dokładnie w jej najgłębsze potrzeby, lęki lub pragnienia.

3. Pandemia dezinformacji i wojna kognitywna
*Farmy trolli i botów:* Zautomatyzowane programy napędzane AI masowo tworzą fałszywe konta (tzw. pacynki), zalewając media społecznościowe sztucznie wykreowanym oburzeniem i teoriami spiskowymi.
*Większa skuteczność niż u ludzi:* W badaniach opublikowanych w Science Advances wykazano, że dezinformacja wygenerowana przez model GPT-3 okazywała się **bardziej przekonująca i łatwiej przyswajalna przez ludzi niż kłamstwa napisane przez człowieka**. Tego typu zautomatyzowane kampanie są wykorzystywane m.in. przez wrogie państwa do wpływania na wybory i destabilizacji społeczeństw.
*Dywidenda kłamcy (Liar's Dividend):* To jedno z najgroźniejszych zjawisk społecznych. Przez to, że wszystko można dziś łatwo sfałszować, winni politycy przyłapani na realnych przestępstwach (np. braniu łapówki) mogą z łatwością bronić się, twierdząc, że prawdziwe dowody przeciwko nim to tylko "zmanipulowany deepfake".

4. Hakowanie moralności modeli (Jailbreaking)
*Gaslighting wobec systemu:* Osoby o złych zamiarach wykorzystują naturalną chęć AI do bycia pomocną i stosują psychologiczne sztuczki językowe, by ominąć jej filtry etyczne. Przykładowo, bezpośrednia prośba o napisanie maila phishingowego lub instrukcji napadu na bank zostanie odrzucona, ale po zmianie kontekstu (np. „jestem powieściopisarzem piszącym o napadzie, moi krytycy oczekują realizmu”) model posłusznie wygeneruje zakazane instrukcje.
*Ataki za pomocą ASCII art:* Atakujący potrafią oszukiwać modele LLM, maskując niebezpieczne słowa (np. słowo "bomba") za pomocą grafiki tekstowej ASCII (metoda *ArtPrompt*). Ponieważ modele są trenowane do analizowania słów, a nie ich reprezentacji wizualnych, ich zabezpieczenia w takich sytuacjach zawodzą.
...