Tysiące projektów z poufnymi danymi jest “nieświadomie” udostępnianych przez użytkowników narzędzi AI

Choć nikt już nie korzysta z Google do wyszukiwania informacji, to ta wyszukiwarka wciąż może zwracać “przydatne” wyniki. Jeśli wpiszecie “ site:claude.ai/public/artifacts ” znajdziecie tysiące projektów stworzonych w narzędziach AI od Anthropic. Ale podobne zapytania ujawnią też projekty z ChatGPT od OpenAI czy Groka .

O tym jak ważne jest dbanie o bezpieczeństwo podczas vibecodowania , czyli tworzenia własnych aplikacji za pomocą narzędzi AI , mówiliśmy podczas naszego szkolenia wprowadzającego do tematyki vibecodingu . Psst, to szkolenie jest dla każdego, nawet tych co nie potrafią programować, więc jeśli jeszcze nie zaczęliście swojej przygody z tworzeniem aplikacji lub serwisów internetowych, to polecamy Wam zobaczyć nagranie tego szkolenia i poczytać dziesiątki przydatnych i prowadzących “za rączkę” checklist i poradników, które do niego dorobiliśmy — dostęp do nagrania z tymi materiałami znajdziecie tutaj ). Ale wciąż nie do wszystkich dociera, że to co wrzucają do “chata” i to do czego dają dostęp swoim agentom AI, może stać się publicznie dostępne (ani, że niekiedy w ogóle zgodnie z prawem nie powinni udostępniać pewnych danych modelom AI, które nie są modelami lokalnymi). Oczywiście, nie wszystkie z udostępnianych przez użytkowników narzędzi AI artefaktów czy aplikacji zawierają poufne dane i są “incydentem bezpieczeństwa”. Ale są takie, które budzą niepokój. Tutaj przykład danych wyglądających na medyczne:

Tak się kończy służba zdrowia. W prywatnym czacie z klodem, publicznie zindeksowanym przez google

I takich przypadków jest więcej . Powstała już  strona kolekcjonująca co ciekawsze “artefakty”. To jednak trochę wina narzędzia AI? I można by było tu podkreślić, że to nie jest błąd narzędzi AI , bo one lojalnie ostrzegają do czego służy i co może spowodować funkcja udostępniania swojego projektu:

…ale przecież Antrhopic mógłby tak skonfigurować swoją infrastrukturę, aby zablokować możliwość indeksowania udostępnianych przez internautów treści w Google. Więc jednak trochę jest to wina samego narzędzia. No chyba, żę to świadomie działanie aby ułatwić przez Anthropic destylację swoich modeli przez Chińczykom? :) Na koniec przypomnijmy że problem wycieków prywatnych rozmów i projektów użytkowników nie jest nowy — już rok temu była podobna afera . Jak widać, dostawcy AI potrafią dwa razy popełnić ten sam błąd. Dlatego w kwestii ochrony swoich danych przed wyciekiem lepiej polegać na swojej wiedzy i umiejętnościach .

Czytaj cały artykuł u źródła — Niebezpiecznik