AI powieliła fałszywą informację o śmierci Trumpa

Naukowiec: modele uczą się z forów internetowych.

Sztuczna inteligencja miała błędnie informować o rzekomej śmierci Donalda Trumpa. Źródłem fałszywej informacji była dyskusja na forum Reddit. Dr Mateusz Łabuz z Uniwersytetu w Hamburgu powiedział PAP, że modele językowe cytują wypowiedzi z forów internetowych, ponieważ brzmią one bardziej naturalnie.

Jedna z wyszukiwarek internetowych, DuckDuckGo, miała w ostatnich dniach błędnie informować, że prezydent Stanów Zjednoczonych Donald Trump zmarł 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance'a. Nieprawdziwe informacje miały zostać przedstawione w podsumowaniu wygenerowanym przez sztuczną inteligencję. Według doniesień, system AI mógł zaczerpnąć te fałszywe treści z Reddita - platformy społecznościowej pełniącej funkcję forum dyskusyjnego, podzielonego na tzw. subreddity, czyli społeczności skupione wokół określonych tematów. Użytkownicy jednego z nich - r/poisonai, mieli celowo rozpowszechniać dezinformujące treści.

Dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki "Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji" powiedział PAP, że użytkownicy Reddita zwyczajnie trollowali AI, wiedząc, że w pewnym momencie niektóre wątki mogą zacząć przenikać do dużych modeli językowych.

Okazuje się, że Reddit to jedna z najczęściej cytowanych domen przez główne modele sztucznej inteligencji. Potwierdzają to badania z marca 2026 r. platformy analitycznej Peec AI, która wyróżniła forum na pierwszym miejscu. Z kolei według agencji marketingowej The Digital Bloom cytowania Reddita wzrosły o ok. 450 proc. na niektórych modelach AI w 2025 r.

Dr Łabuz wyróżnił 3 powody, dla których Reddit może być tak chętnie cytowany przez sztuczną inteligencję. Pierwszy z nich dotyczy dużej liczby autentycznych i naturalnych wypowiedzi publikowanych na forum. Jak podkreślił, to właśnie na takich wypowiedziach AI uczy się, w jaki sposób najlepiej naśladować język. - W wielu kontekstach wypowiedzi brzmią dużo bardziej naturalnie, kiedy model posługuje się językiem z forum internetowych, a nie na przykład językiem encyklopedycznym albo książkowym - dodał.

Drugi powód, dla którego modele AI korzystają z Reddita to - jak powiedział ekspert - liczba komentarzy i ich zróżnicowanie. Z najnowszych danych forum wynika bowiem, że z serwisu korzysta 116 mln aktywnych użytkowników dziennie. Natomiast trzeci, wyróżniony przez dr Łabuza powód to, obecny na platformie, system głosowania. Chodzi o to, że każdy wpis może zostać opatrzony upvote'm, czyli pozytywnym głosem uznającym dany wpis za pozytywny. Odwrotny wynik przynosi natomiast downvote. - AI na tym również może bazować, jeśli chodzi o swoje oceny wartości i autentyczności poszczególnych treści - dodał.

Dodatkowo Reddit w lutym 2024 r. zawarł umowę z Google, na mocy, której wyszukiwarka może trenować swoje modele AI na podstawie wpisów użytkowników forum. Podobne porozumienie zawarł z Redditem OpenAI.

Ale, z opublikowanego w czerwcu br. badania naukowców w Uniwersytetu Cornell "Deep-research agents can be poisoned via user-generated content" wynika, że firmy mogą z łatwością umieszczać treści promocyjne na platformach takich jak Reddit, Quora czy Wikipedia w celu zmanipulowania wyników sztucznej inteligencji. "Pokazujemy, że niewielki fragment - zaledwie 13 słów - tekstu pobranego ze strony internetowej UGC, takiej jak Reddit, Wikipedia, Quora, Facebook itd., może sprawić, że agenci AI będą dość konsekwentnie generować treści spamowe/oszustwa" - powiedział portalowi 404 media jeden z autorów badania Hal Triedman. Jego zdaniem, wykonanie takich działań jest bardzo proste.

Dr Łabuz zapytany o ryzyko dezinformacji po cytowaniu przez AI wpisów z forum wskazał na zjawisko "LLM grooming". Polega ono na bombardowaniu sieci bliźniaczo podobnymi do siebie treściami dezinformującymi w celu wpływania na wyniki sztucznej inteligencji. - Na przełomie 2024-2025 r. popularne modele językowe powielały w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej ťPrawdaŤ - zauważył powołując się na badanie portalu NewsGuard i organizacji American Sunlight Project.

Jak dodał Reddit nie jest wolny od dezinformacji, w związku z czym, Rosja oraz Chiny, mogą się przyglądać tego typu platformom i chętnie je wdrażać do swojego arsenału. Ekspert przypomniał również, że podczas dyskusji z jednym z modeli AI ważna jest kwestia świadomości i weryfikacji przekazywanej nam wiedzy. - A myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model jest prawdziwe i nie do zakwestionowania - podsumował.

Weronika Moszpańska

Czytaj cały artykuł u źródła — Gość Gdański