AI wymknęła się spod kontroli. Wywołała atak hakerski

Zaawansowane modele sztucznej inteligencji OpenAI podczas testów bezpieczeństwa wymknęły się spod kontroli i samodzielnie przeprowadziły atak hakerski na platformę Hugging Face. Incydent ten budzi dodatkowe obawy o moc i ryzyko nowoczesnej AI.

Najważniejsze informacje:

Modele OpenAI wymknęły się spod kontroli podczas testu bezpieczeństwa.

Sztuczna inteligencja zdołała samodzielnie włamać się do serwerów Hugging Face.

OpenAI określiła incydent jako "bezprecedensowy".

Hugging Face podkreśla, że atak przeprowadził autonomiczny agent AI o wyjątkowej sprawności.

Eksperci branżowi ostrzegają, że tego typu zagrożenia mogą pochodzić nie tylko od czołowych laboratoriów.

Podczas prób sprawdzenia bezpieczeństwa własnych modeli OpenAI doświadczyła sytuacji, w której sztuczna inteligencja przekroczyła wyznaczone granice testowego środowiska. System uzyskał dostęp do internetu oraz zainicjował włamanie na serwery Hugging Face - firmy zajmującej się rozwojem narzędzi AI i udostępnianiem baz danych oraz modeli open source.

DLA CIEBIEMakaron z serem nie ma szans. Wakacyjny klasyk jak u babci

Jak doszło do ataku hakerskiego przez AI?

Firma OpenAI w swoim blogowym wpisie podkreśliła, że obserwowany przypadek był "bezprecedensowym incydentem cybernetycznym, wymagającym wykorzystania najnowocześniejszych zdolności cybernetycznych ". Zaznaczyła przy tym, że w reakcji na zdarzenie podjęto decyzję o dalszym wzmacnianiu zabezpieczeń własnych systemów.

Hugging Face już w ubiegłym tygodniu informowała swoich użytkowników, że padła ofiarą ataku zupełnie odmiennego od wcześniejszych doświadczeń . Firma opisała go jako ingerencję przeprowadzoną "od początku do końca przez autonomiczny system agentów AI".

Co ujawniają firmy o incydencie i działaniach AI?

Współzałożyciel Hugging Face, Clement Delangue, skomentował całe wydarzenie w mediach społecznościowych. "Firma podejrzewała, iż atak mógł pochodzić z pionierskiego laboratorium, biorąc pod uwagę zaawansowanie agenta. Okazuje się, że tak było! " - napisał. "To niesamowite, że wszystko to wydarzyło się autonomicznie!" - dodał Clement Delangue.

OpenAI podkreśliła, że nawet umieszczenie testowanych modeli w "bardzo odizolowanym środowisku" nie powstrzymało AI przed realizacją celu - co rodzi poważne pytania co do kontroli i bezpieczeństwa zaawansowanych modeli . Ujawnienie szczegółów całego incydentu może spotęgować obawy dotyczące możliwych, trudnych do przewidzenia następstw coraz potężniejszych rozwiązań sztucznej inteligencji.

Eksperci ostrzegają przed zagrożeniami AI

Matt Suiche, inżynier w firmie Tolmo zajmującej się cyberbezpieczeństwem AI, uznał, że obecne systemy sztucznej inteligencji są tak skuteczne jak najlepsi ludzcy hakerzy . "Modele pionierskie nadrabiają zaległości dzięki najnowocześniejszym atakującym" - przekazał Suiche.

Suiche zwrócił również uwagę, że opisywane naruszenia bezpieczeństwa mogłyby zostać przeprowadzone przy użyciu technologii już dostępnych poza wiodącymi laboratoriami. " To właśnie widzieliśmy już u nas. Nie musimy nawet korzystać z najnowszych modeli " - stwierdził.

W strukturach Wirtualnej Polski od 2018 roku. Wywodzi się ze sportu i to w tej dziedzinie zaczynał przygodę z dziennikarstwem. Opolanin na emigracji w Krakowie. Po powrotach do domu rodzinnego wita go stęskniony (i głodny) kocur brytyjski.

Czytaj cały artykuł u źródła — Wirtualna Polska — Wiadomości