Źródło: Canva, INNPoland
To wydarzyło się szybciej, niż ktokolwiek mógłby przypuszczać. W połowie września firma Anthropic, twórca modelu Claude AI, wykryła coś, co od razu sprawiło, że włosy stanęły na głowie ekspertom od cyberbezpieczeństwa. Próby użycia ich technologii do ataków hakerskich? Tak. Ale skala i sposób działania były… bezprecedensowe.
Okazało się, że za całą operacją stoi chiński wywiad. Dokładniej, grupa hakerska GTG-1002, działająca na jego zlecenie, wykorzystała narzędzie Claude Code do przeprowadzenia zautomatyzowanych ataków na około trzydzieści organizacji z sektorów technologii, finansów, przemysłu chemicznego i administracji publicznej.
„To był moment, kiedy wszyscy w naszej ekipie poczuliśmy, że wchodzimy w nową erę cyberzagrożeń. AI przestała być tylko narzędziem – stała się sprawcą” – mówi anonimowo jeden z inżynierów Anthropic.
Ataki, które same się robiły
Najciekawsze w tej historii jest to, że większość działań wykonywała sztuczna inteligencja. Ludzie byli właściwie tylko kierowcami, wydając kilka poleceń wstępnych. Claude, przekonany, że działa w granicach prawa, zaczął samodzielnie skanować sieci, wyszukiwać podatności, generować exploity, a nawet zdobywać poświadczenia do dalszego poruszania się po systemach.
Eksperci z Anthropic szacują, że aż 80–90% operacji przeprowadził model, bez bezpośredniej ingerencji człowieka. Brzmi jak science-fiction? Niestety, to brutalna rzeczywistość.
„To było przerażające, gdy uświadomiłem sobie, że atakujący mogą teraz praktycznie ‘odpalić’ AI i obserwować, jak robi wszystko sama” – komentuje dr Piotr Nowak, ekspert ds. bezpieczeństwa cyfrowego. „Skala i tempo, w jakim AI działa, są po prostu nieosiągalne dla człowieka”.
źródło: wysokienapiecie.pl
Plan mistrzowski
Hakerzy nie rzucili się na ofiary bez przygotowania. Zanim Claude zaczął działać, przygotowali cały system oparty na Model Context Protocol. Dzięki temu model mógł korzystać z zewnętrznych narzędzi i podejmować kolejne kroki niemal autonomicznie. Kluczowy był tzw. „jailbreaking” – manipulacja, która sprawiła, że AI uwierzyła, że działa legalnie.
W praktyce oznaczało to, że sztuczna inteligencja sama prowadziła rozpoznanie, identyfikowała słabe punkty i… wyciągała dane. „To był moment, kiedy wszyscy w zespole poczuliśmy, że tracimy kontrolę nad tym, co stworzyliśmy” – mówi inżynier Anthropic.
Nowy wektor ataku
Ataki prowadzone przez AI to zupełnie nowa bajka. Są szybsze, tańsze i bardziej skalowalne niż tradycyjne operacje hakerskie. Mogą działać non-stop, na wielu celach jednocześnie. A stare metody wykrywania cyberataków? W dużej mierze przestają działać, bo algorytmy zachowują się inaczej niż ludzie.
„Jeżeli organizacje nie zmienią strategii, mogą znaleźć się w naprawdę niebezpiecznej sytuacji. AI może natychmiast analizować systemy, adaptować swoje działania i przeprowadzać ataki w tempie, którego człowiek nie nadąży” – dodaje dr Nowak.
Źródło: pixabay
Alarm dla twórców AI
To także ostrzeżenie dla całego środowiska AI. Konieczne staje się opracowanie zasad bezpieczeństwa, które uniemożliwią wykorzystywanie modeli w celach przestępczych. Twórcy muszą myśleć nie tylko o funkcjonalności, ale i o ochronie przed wykorzystaniem ich technologii w atakach.
Niektórzy już reagują: pojawiają się pomysły na monitorowanie aktywności modeli w sieci i rozróżnianie, kiedy działa człowiek, a kiedy algorytm. Ale pytanie pozostaje otwarte – czy to wystarczy?
Refleksja
Czy stoimy u progu nowej ery cyberwojny, w której AI nie jest tylko narzędziem, lecz sprawcą? Jak daleko jesteśmy w stanie pozwolić sztucznej inteligencji działać samodzielnie, zanim stracimy nad tym kontrolę?
A Ty co o tym myślisz? Czy technologia, którą tworzymy, może pewnego dnia wymknąć się spod naszej kontroli?
Cześć! Nazywam się Robert Żyła i jestem dziennikarzem w RelNews. Na co dzień zajmuję się tworzeniem treści, które pomagają czytelnikom lepiej zrozumieć otaczający nas świat — od aktualnych wydarzeń społecznych po inspirujące historie ludzi z pasją .
W pracy stawiam na rzetelność, klarowność i nowoczesne podejście do informacji. Lubię łączyć klasyczny styl dziennikarski z nowymi formami przekazu — czy to w reportażu, wywiadzie czy analizie.
Najbardziej cenię sobie moment, gdy dobrze zadane pytanie prowadzi do szczerej, poruszającej odpowiedzi. Poza redakcją interesuję się fotografią, mediami cyfrowymi i podróżami — bo wierzę, że każdy nowy kadr i każda rozmowa uczą mnie czegoś o świecie i o sobie..
