Model OpenAI wykrył luki i wykradł dane logowania. "Sygnał ostrzegawczy"

Niezamierzony atak hakerski, podczas którego model OpenAI w trakcie testów bezpieczeństwa przełamał zabezpieczenia cybernetyczne wbrew intencjom firmy, ujawnił rosnące zagrożenia związane z wyścigiem w dziedzinie sztucznej inteligencji – ocenił w czwartek „Financial Times”.

Firma OpenAI ujawniła we wtorek wieczorem, że testowany przez nią model AI wydostał się z odizolowanego środowiska, połączył się z internetem, wykrył i wykorzystał luki w zabezpieczeniach, a także wykradł dane logowania ze start-upu Hugging Face, próbując w ten sposób rozwiązać złożony problem z zakresu cyberbezpieczeństwa.

Jak przekazał „FT”, incydent wywołał głębokie zaniepokojenie w sektorze nowych technologii. Według gazety miał on miejsce w czasie, gdy OpenAI stosowało coraz bardziej agresywne metody szkoleniowe w związku z rywalizacją z konkurencyjną firmą Anthropic o stworzenie najbardziej zaawansowanych systemów cyberbezpieczeństwa. Dziennik, powołując się na osoby zaznajomione ze sprawą, podał, że pracownicy odpowiedzialni za testy i bezpieczeństwo byli bardzo „przestraszeni” incydentem. Według „FT” coraz częstsze stosowanie agresywnych technik szkoleniowych zwiększa ryzyko niebezpiecznych działań modeli AI.

Niektórzy pracownicy OpenAI obawiają się, że zdarzenie może świadczyć o stopniowej utracie kontroli nad coraz bardziej zaawansowanymi systemami tworzonymi przez firmę – napisał „FT”, powołując się na osoby związane z firmą. „To zarówno utrata kontroli, jak i sygnał ostrzegawczy w kwestii bezpieczeństwa” – powiedział szef Apollo Research, firmy testującej wiodące modele AI, w tym OpenAI, Marius Hobbhahn.

Osoba związana z OpenAI oceniła, że incydent był wynikiem „niedocenienia możliwości modelu” oraz „braku odpowiedniego przygotowania pod względem bezpieczeństwa”. Jak dodała, jest on konsekwencją „ekstremalnie szybkiego wyścigu i starań wszystkich o osiągnięcie jak największych możliwości”.

„Modele sztucznej inteligencji są trenowane do nieustannego dążenia do celów. Nie uczą się automatycznie wartości takich jak »nie popełniaj przestępstw«” – powiedział współzałożyciel organizacji non-profit Guidelight AI Standards i były badacz ds. bezpieczeństwa w OpenAI Steven Adler. „Cieszę się, że OpenAI podzieliło się tym incydentem, ponieważ jest to wyraźny dowód na to, co potrafią osiągnąć źle dopasowane modele” – dodał.

Po ujawnieniu incydentu wielu ekspertów zajmujących się bezpieczeństwem AI i cyberbezpieczeństwem zaczęło apelować o wprowadzenie odpowiednich przepisów i standardów. Jak poinformował „FT”, oczekuje się, że w przyszłym tygodniu szef OpenAI Sam Altman przedstawi urzędnikom w Białym Domu informacje na temat kolejnej generacji systemów sztucznej inteligencji.

Administracja prezydenta USA Donalda Trumpa opowiada się za ograniczeniem regulacji sektora i przyspieszeniem rozwoju AI, argumentując, że jest to konieczne do utrzymania przewagi technologicznej Stanów Zjednoczonych nad Chinami. (PAP)

mgp/ ap/

Czytaj cały artykuł u źródła — Bankier.pl