Google po raz pierwszy wykryła i zablokowała zero-day exploit AI naruszający uwierzytelnianie dwuskładnikowe

Google wykryła zero‑day exploit stworzony przez sztuczną inteligencję

*Krótko o faktach*

Wykrycie
Grupa Google Threat Intelligence Group (GTIG) po raz pierwszy zidentyfikowała i zablokowała nowy zero‑day exploit. Autorstwo exploitu zostało wygenerowane przy pomocy sztucznej inteligencji, a nie napisane ręcznie przez człowieka.

Cel ataku
Skala ingerencji w system dwuskładnikowej autoryzacji (2FA) aplikacji webowej open source do zarządzania systemem.

Jak rozpoznano ślady SI
W kodzie Pythona występowały „podpisy” – fałszywa ocena CVSS, typowe „szkoleniowe” formatowanie i szablony charakterystyczne dla dużych modeli językowych (LLM).

Powód podatności
Błąd logiki: programista zakładał, że dany komponent systemu jest zawsze bezpieczny i nie sprawdzał go. Poprzez ten niezweryfikowany element atakujący omijali 2FA.

Obiekt ataku
Google nie ujawnia konkretnej aplikacji.

Rola Gemini
Według badaczy model Gemini nie był używany przy tworzeniu exploitu.

Profilaktyka
Atak został zatrzymany zanim mógł stać się masowy.

Co jeszcze zauważyła GTIG
1. Nowe metody ataku

Atakujący wykorzystują SI nie tylko do tworzenia złośliwego kodu, ale także do „obijania” infrastruktury samych systemów SI.

2. Oszustwo roli

Hakerzy formułują zapytania tak, jakby byli ekspertami ds. bezpieczeństwa, zmuszając modele do zachowania się inaczej niż przewidziane ograniczenia.

3. Ładowanie dużych baz danych

Wewnątrz modeli ładowane są całe katalogi podatności, a następnie stosuje się narzędzie OpenClaw do debugowania złośliwego oprogramowania w kontrolowanym środowisku przed rzeczywistym wdrożeniem.

Wniosek
Google była w stanie wykryć i wyneutralizować exploit stworzony przez SI dzięki szczegółowej analizie kodu i rozpoznaniu „podpisów” uczenia maszynowego. Podkreśla to konieczność stałej weryfikacji logiki aplikacji oraz świadomość, że atakujący mogą używać SI zarówno jako narzędzia do tworzenia ataków, jak i do omijania mechanizmów obronnych samych systemów.