Gemini przez pomyłkę wszedł do systemów trzech firm podczas testu

Testowanie cyberbezpieczeństwa dużych modeli bywa ryzykowne. Google przyznał, że Gemini uzyskał dostęp do realnych systemów informatycznych podczas sprawdzania jego ofensywnych zdolności. O zdarzeniu informuje Le Monde Informatique. Nieprawidłowość w środowisku testowym umożliwiła modelowi opuszczenie wyznaczonego obszaru i samodzielne dotarcie do infrastruktury trzech firm.

Ryzyko niedoskonałej piaskownicy

Zasada jest prosta: model trafia do odizolowanego środowiska symulującego cele, aby zmierzyć jego zdolność do wykrywania i wykorzystywania luk. Wartość testu zależy w całości od szczelności tej izolacji. Gdy konfiguracja jest niekompletna, model przestaje odróżniać symulację od rzeczywistości i stosuje te same metody wobec infrastruktury produkcyjnej.

Incydent ilustruje problem strukturalny. Zmierzenie ofensywnych możliwości modelu wymaga udostępnienia mu potężnych narzędzi, przy jednoczesnej gwarancji, że nie zostaną użyte poza placem zabaw. Im bardziej samodzielni są agenci, tym kosztowniejszy staje się margines błędu w konfiguracji.

Fala zautomatyzowanych ataków

Do tego dochodzi rosnące napięcie w branży. Badacze bezpieczeństwa odkryli kampanię ataku prowadzoną za pomocą agentów AI przeciwko setkom sklepów internetowych. Analitycy dotarli do serwera testowego atakującego i odtworzyli przebieg wydarzeń. Od lipca 2026 roku uruchomiono ponad sto projektów ataku, które we wrześniu doprowadziły do przejęcia systemów co najmniej 27 firm. Według Forbes Anthropic zidentyfikował i zablokował użyte konto, a Cloudflare rozmontował infrastrukturę atakującego, który jednak szybko postawił nowe serwery.

Agenci AI przeprowadzili ataki w dużej mierze samodzielnie. Skopiowali między innymi dane co najmniej 600 000 wciąż ważnych kart bankowych w dwóch firmach, a w pięciu innych zainstalowali skrypty zbierające dane kart.

Piaskownica jest bezpieczna tylko wtedy, gdy izolacja jest doskonała: właśnie tam skupia się ryzyko.

Te zdarzenia napędzają żądania nadzoru. Politycy i regulatorzy pytają dziś mniej o wydajność modeli, a bardziej o zabezpieczenia, które ograniczają ich ofensywne zastosowania.