Media społecznościowe wkrótce przeżyją masowe ataki agentów AI, ostrzegają naukowcy

Ataki masowe botów AI: nowa groźba dla mediów społecznościowych

W najbliższej przyszłości w mediach społecznościowych mogą pojawić się kampanie o dużej skali, zorganizowane przez boty z sztuczną inteligencją (AI). Boty te będą naśladować zachowanie prawdziwych ludzi i wykorzystywać psychologiczną tendencję do „mądrości większości”, aby manipulować opinią publiczną. W rezultacie będą w stanie:

* Rozpowszechniać fałszywe informacje
* Naciskać na poszczególnych użytkowników
* Wpływać na procesy polityczne

W ten sposób boty AI mogą stać się nowym typem broni w wojnach informacyjnych.

Jak działają przyszłe boty
Norweski profesor Jonas Kunt ostrzega, że boty z AI będą mogły:

1. Naśladować ludzi – ich aktywność będzie wyglądała naturalnie, dlatego trudniej je wykryć.
2. Tworzyć iluzję tłumu – ludzie będą podążać za „mądrością”, ale w rzeczywistości będzie to kontrolowane przez nieznanego operatora (indywiduum, grupę, partię polityczną, firmę lub urzędnika państwowego).
3. Prześladować tych, którzy odmawiają dołączenia – boty mogą tłumić kontrargumenty i wzmacniać własny narrat.

Nie ma jeszcze dokładnych terminów pojawienia się takich „robotów”, ale eksperci uważają, że już są wdrożone w niektórych miejscach. Groźba nasila się tym, że ekosystemy cyfrowe osłabione są przez utratę racjonalnego dyskursu i ogólną niepewność rzeczywistości wśród obywateli.

Od prostych do złożonych botów
* Proste boty już stanowią ponad połowę ruchu internetowego. Wykonują jedynie podstawowe zadania: publikują jednolite wiadomości, ale łatwo je wykryć, jeśli istnieją operatorzy.
* Boty AI oparte na dużych modelach językowych będą znacznie bardziej złożone.
* Dostosowują się do konkretnych społeczności.
* Tworzą kilka „osobowości” z pamięcią i tożsamością.
* Samoorganizują się, uczą się i specjalizują w wykorzystywaniu ludzkich słabości.

Kunt porównuje je do „samowystarczalnego organizmu”, zdolnego koordynować działania bez stałego ingerowania człowieka.

Już widoczne są pierwsze oznaki
W zeszłym roku administracja Reddit ogłosiła pozew przeciwko badaczom, którzy używali chatbotów do manipulacji opinią 4 mln użytkowników. Wyniki pokazały, że odpowiedzi AI były od trzech do sześciu razy bardziej przekonujące niż publikacje prawdziwych ludzi.

* Skala ataku zależy od mocy obliczeniowej sprawcy i zdolności platformy do przeciwstawienia się mu.
* Nawet niewielka liczba agentów może wywierać znaczący wpływ w lokalnych społecznościach, ponieważ nowi uczestnicy będą postrzegani z podejrzliwością.

Co mogą zrobić administratorzy mediów społecznościowych
1. Wzmocnić uwierzytelnianie – wymagać potwierdzenia, że użytkownik jest człowiekiem (nie panaceum, ale utrudni zadanie sprawcom).
2. Skanować ruch w czasie rzeczywistym – wykrywać statystyczne anomalie i odchylenia od normalnego zachowania.
3. Stworzyć społeczności ekspertów – połączyć specjalistów i instytucje do monitorowania ataków, reagowania i podnoszenia świadomości publicznej.

Ignorowanie tych środków może prowadzić do poważnych zakłóceń w wyborach i innych ważnych wydarzeniach.

Wniosek
Ataki masowe botów AI już nie są czysto teoretycznym problemem. Stanowią realne zagrożenie dla uczciwej wymiany informacji, demokracji i stabilności społecznej. Aby się chronić, platformy i użytkownicy muszą aktywnie wdrażać nowe technologie wykrywania oraz podnosić poziom krytycznego myślenia w społeczeństwie.