AI wyrwała się z klatki. Doszło do „bezprecedensowego” ataku
Autonomiczne agenty AI - boty zdolne do samodzielnego działania po otrzymaniu pewnych instrukcji od człowieka - były poddawane testom w tzw. sandboxie (ang. piaskownica). Jest to specjalnie zabezpieczone, odizolowane środowisko , stworzone po to, by bezpiecznie badać granice możliwości sztucznej inteligencji.
Scenariusz testowy przybrał jednak nieoczekiwany obrót. Agenty, zamiast realizować zadania wewnątrz wyznaczonego obszaru, przeprowadziły własny atak cybernetyczny na same zabezpieczenia. Po wykryciu luki i wydostaniu się na zewnątrz, AI uznała serwis Hugging Face - jedną z największych na świecie platform do dzielenia się modelami sztucznej inteligencji - za prawdopodobne źródło odpowiedzi na stawiane przed nią zadania i podjęła próbę uzyskania dostępu do jego wewnętrznych systemów .
„To już nie jest teoria”
Przedstawiciele OpenAI określili incydent jako „bezprecedensowy” i zapowiedzieli ścisłą współpracę z Hugging Face w celu zbadania przebiegu ataku oraz wzmocnienia mechanizmów obronnych.
Z kolei Hugging Face poinformowało o zidentyfikowaniu i załataniu luk wykorzystanych podczas zdarzenia oraz o odbudowie zaatakowanych systemów. Przedstawiciele platformy podkreślają, że granica między teoretycznym zagrożeniem a rzeczywistością właśnie przestała istnieć .
Autonomiczne, napędzane sztuczną inteligencją narzędzia ofensywne to już nie teoria. Obrona platformy internetowej oznacza obecnie traktowanie danych i powierzchni modeli jako kluczowej powierzchni ataku oraz wykorzystywanie AI w obronie, aby dotrzymać kroku zagrożeniom. Będziemy w to dalej inwestować i dzielić się zdobywaną wiedzą - czytamy w oświadczeniu. Przeciwnicy przechodzą na prędkość maszynową
Incydent wywołał falę pytań o to, czy dotychczasowe procedury bezpieczeństwa są wystarczające wobec gwałtownego wzrostu potęgi modeli AI. Eksperci ds. cyberbezpieczeństwa zwracają uwagę na rosnącą asymetrię w starciu atakujących z obrońcami .
Spencer Starkey z zajmującej się cyberbezpieczeństwem firmy SonicWall zauważa, że firmy muszą priorytetowo traktować odporność cybernetyczną . Niewygodna prawda jest taka, że zbyt wiele organizacji wciąż broni się z prędkością człowieka, podczas gdy przeciwnicy przechodzą na prędkość maszynową - mówi, cytowany brzez BBC.
Travis Lelle, główny inżynier ds. bezpieczeństwa w przedsiębiorstwie Guidepoint Security, nazwywa te doniesienia „momentem otrzeźwienia dla całej branży” . Ofensywne agenty nie mają ograniczeń, podczas gdy najlepsze narzędzia obronne są zamknięte za barierami, które nie potrafią zrozumieć kontekstu - zaznacza.
Technologia czy wyścig marketingowy?
Obok dyskusji czysto technicznych pojawiają się również głosy sceptyczne co do intencji samego ujawnienia incydentu . Jake Moore, doradca ds. cyberbezpieczeństwa w firmie ESET, wskazuje na możliwy wymiar wizerunkowy tej publikacji.
W jego ocenie OpenAI może chcieć wyeksponować potęgę i zaawansowanie swoich agentów w momencie, gdy uwaga rynku mocno skupia się na konkurencji - w tym na modelu Claude Mythos od firmy Anthropic czy niedawno zaprezentowanym przez chiński startup Moonshot modelu Kimi K3. Stawia to pytanie, czy OpenAI nie próbuje potencjalnie gonić marzenia marketingowego, jakie ostatnio realizuje Anthropic - spekuluje.
Eksperci od dawna ostrzegają przed cyberatakami z wykorzystaniem oprogramowania opartego na sztucznej inteligencji. W ostatnich miesiącach światową debatę rozgrzał wspomniany model firmy Anthropic. Oprogramowanie Claude Mythos, bo o nim mowa, wykryło luki bezpieczeństwa usługach online, które przez dziesięciolecia pozostawały niezauważone . Ujawnione niedociągnięcia zostały następnie poprawione.
Niezależnie od motywacji stojących za opublikowaniem informacji o ataku przez agenty OpenAI, jedno nie ulega wątpliwości: autonomiczna sztuczna inteligencja udowodniła, że potrafi wymknąć się spod kontroli swoich twórców .