Bunt sztucznej inteligencji. Przeprowadziła atak hakerski
Firma OpenAI, twórca ChatGPT, podała, że podczas testów bezpieczeństwa jej zaawansowane modele sztucznej inteligencji zaczęły działać autonomicznie i - aby osiągnąć swój cel - włamały się na serwery popularnej platformy dla programistów. Jej współzałożyciel określił incydent jako "bezprecedensowy" i "wymagający wykorzystania najnowocześniejszych zdolności cybernetycznych".
Wikimedia Commons / Jernej Furman Niektóre modele sztucznej inteligencji firmy OpenAI wymknęły się spod kontroli pracowników podczas testu bezpieczeństwa i spowodowały atak hakerski , który naruszył infrastrukturę startupu Hugging Face zajmującego się sztuczną inteligencją - przekazała w środę agencja Reutera, powołując się na oświadczenie firmy.
W poście na blogu OpenAI wyjaśniła, że gdy testowała możliwości niektórych najbardziej zaawansowanych modeli w kontrolowanym środowisku, programowi udało się wydostać poza wyznaczone granice , uzyskać dostęp do internetu i włamać się do serwerów Hugging Face, próbując zrealizować swój cel testowy.
W poście na blogu stwierdzono, że ucieczka ta była " bezprecedensowym incydentem cybernetycznym , wymagającym wykorzystania najnowocześniejszych zdolności cybernetycznych" oraz że firma wzmacnia zabezpieczenia.
Model OpenAI zbuntował się i przeprowadził atak hakerski
Hugging Face, platforma służąca do hostowania dużych modeli językowych i zbiorów danych open source, w zeszłym tygodniu w poście na blogu poinformowała, że padła ofiarą ataku hakerskiego , który "różnił się od wszystkiego, z czym mieliśmy do czynienia wcześniej", ponieważ "był on napędzany od początku do końca przez autonomiczny system agentów AI" .
W poście na X, współzałożyciel Hugging Face, Clement Delangue, napisał, że firma podejrzewa, iż atak "mógł pochodzić z pionierskiego laboratorium, biorąc pod uwagę zaawansowanie agenta. Okazuje się, że tak było!" . Jak dodał: "To niesamowite, że wszystko to wydarzyło się autonomicznie!".
Ujawnienie przez OpenAI, że jego zaawansowane modele były odpowiedzialne za naruszenie bezpieczeństwa, pomimo umieszczenia ich w - jak to określono - "bardzo odizolowanym środowisku", prawdopodobnie nasili obawy dotyczące możliwości i ryzyka związanych z pionierskimi modelami - podkreślił Reuters.
Matt Suiche, inżynier w firmie Tolmo, zajmującej się cyberbezpieczeństwem opartym na sztucznej inteligencji, ocenił, że systemy sztucznej inteligencji są obecnie tak samo skuteczne, jak elitarni cyberoperatorzy .
"Modele pionierskie nadrabiają zaległości dzięki najnowocześniejszym atakującym" - powiedział Suiche. Ostrzegł, że naruszenia bezpieczeństwa opisane we wpisie na blogu OpenAI można było przeprowadzić przy użyciu technologii dostępnej daleko poza murami pionierskich laboratoriów badawczych. - To właśnie widzieliśmy już u nas. Nie musimy nawet korzystać z najnowszych modeli - stwierdził.