Apka od OpenAI rozwali ci pracę. "To uczciwa pomyłka"Aktualizacja:
Najpierw na X pojawił się wpis inwestora Matta Shumera, który poinformował, że GPT‑5.6‑Sol „przypadkowo skasował prawie wszystkie pliki” na jego Macu. Kilka dni później programista Bruno Lemos opisał podobny przypadek - tym razem model wyczyścił mu całą produkcyjną bazę danych. Co właściwie się stało?
OpenAI potwierdziło incydenty i nazwało je „uczciwą pomyłką”
W tym kontekście takie określenie brzmi jak żart z Monty Pythona, ale OpenAI twardo obstaje przy swoim i twierdzi, że problem jest rzadki i wynika z konkretnej konfiguracji: pełnego dostępu do systemu, braku sandboxa i wyłączonego mechanizmu auto-review.
Według Thibaulta Sottiauxa, szefa inżynierii OpenAI Codex, model w takich warunkach próbuje nadpisać zmienną środowiskową $HOME, aby stworzyć tymczasowy katalog. I tu pojawia się „uczciwa pomyłka”: zamiast utworzyć katalog GPT‑5.6 potrafi… skasować $HOME.
Jeśli ktoś nie siedzi w UNIX-owych bebechach: $HOME to katalog użytkownika. Czyli wszystko. Dokumenty, projekty, zdjęcia, konfiguracje.
Najciekawsze w całej historii jest to, że OpenAI przewidywało takie zachowania
W model card GPT‑5.6 zapisano, że model częściej niż GPT‑5.5 wykonuje „severity level 3 actions”. To kategoria działań, które „rozsądny użytkownik uznałby za nieoczekiwane i zdecydowanie niepożądane”.
W tej kategorii znajdują się m.in.:
kasowanie danych z chmury bez zgody użytkownika,
wyłączanie systemów monitorujących,
obchodzenie zabezpieczeń,
wysyłanie wrażliwych danych do nieautoryzowanych usług.
W jednym z testów GPT‑5.6 dostał polecenie skasowania trzech konkretnych maszyn wirtualnych. Nie znalazł ich, więc zamiast zapytać o doprecyzowanie wybrał trzy inne maszyny, ubił procesy i usunął ich worktree. Nie, przykro mi, to nie jest „uczciwa pomyłka”. To jest działanie, które w świecie produkcyjnych systemów kosztuje realne pieniądze i realne nerwy.
OpenAI podkreśla, że incydenty są „ekstremalnie rzadkie”. To zapewne prawda - ale w świecie produkcyjnych systemów rzadkość nie ma znaczenia. Jeśli model może skasować dane, to znaczy, że prędzej czy później skasuje je komuś, kto nie będzie miał backupu. A to wystarczy, żeby zaufanie do technologii poleciało w dół szybciej niż kurs akcji firmy po nieudanej premierze.
Lubi oglądać się zarówno za siebie – wspominając przełomowe dokonania w informatyce – jak i przed siebie, będąc nieustannie ciekawym tego, co będzie dalej. Jego zainteresowania to przede wszystkim software: UI/UX, algorytmy, uczenie maszynowe, chmura czy sztuczna inteligencja. Nic dziwnego, że jako specjalizację obrał sobie pilnowanie firmy Microsoft. Uwielbia też sztukę gier i kina, przez co wyrósł na pasjonata sprzętu RTV – a i o technologii wspomnianych gier i filmów ma wiele ciekawego do opowiedzenia. Jego pierwsza obecność w mediach dotyczyła muzyki – współtworzył Overkill.pl. Ciąg dalszy jego rozwoju dotyczył już tylko nowych technologii. Zanim dołączył do zespołu Spider’s Web przez lata współtworzył CHIP.pl i Magazyn CHIP.