Modele OpenAI wydostały się z testu. Weszły na serwery innej firmy
Do zdarzenia doszło we wtorek w trakcie ćwiczenia zaplanowanego, by sprawdzić cybernetyczne możliwości modeli. Zamiast działać wyłącznie w zamkniętym środowisku testowym, agent zbudowany na nowo udostępnionym GPT 5.6 Sol oraz na niewydanym jeszcze modelu, który według OpenAI jest "jeszcze sprawniejszy", przedostał się do otwartego internetu.
OpenAI przekazało, że w kolejnym kroku agent posłużył się przejętymi danymi uwierzytelniającymi i odnalazł nieznaną wcześniej podatność, co umożliwiło mu wejście na serwery Hugging Face . Spółka oceniła, że system podejmował bardzo daleko idące działania, aby pozyskać informacje potrzebne do zrealizowania celu testu. Firma Hugging Face również działa w sektorze sztucznej inteligencji.
Reakcje po incydencie OpenAI
Współzałożyciel Hugging Face Clement Delangue poinformował, że jego firma wcześniej podejrzewała, że za atakiem może stać jedno z wiodących laboratoriów rozwijających AI. Zaznaczył przy tym, że nie zakłada złośliwych intencji po stronie OpenAI, a całe zdarzenie miało w jego ocenie wydarzyć się autonomicznie. Delangue ocenił też, że "to może być pierwszy taki incydent".
Do sprawy odniósł się Greg Casar, demokratyczny członek Izby Reprezentantów USA z Teksasu. Uznał sytuację za niepokojącą i zaapelował o wprowadzenie obowiązkowych, niezależnych testów bezpieczeństwa, obowiązek ujawniania incydentów oraz rozwijanie międzynarodowej współpracy.
Eksperci już od dłuższego czasu ostrzegają przed cyberatakami wspieranymi przez sztuczną inteligencję oraz przed sytuacjami, w których modele wymykają się spod kontroli. W ubiegłym miesiącu firma Anthropic wzywała branżę do wstrzymania prac nad najpotężniejszymi systemami.