AI uśmierciła Trumpa. Tak internauci zakpili z chatbota

Sztuczna inteligencja miała błędnie informować o rzekomej śmierci Donalda Trumpa. Źródłem fałszywej informacji była dyskusja na forum Reddit. Dr Mateusz Łabuz z Uniwersytetu w Hamburgu ocenił, że modele językowe cytują wypowiedzi z forów internetowych, ponieważ brzmią one bardziej naturalnie.

Najważniejsze informacje:

Podsumowanie wygenerowane przez AI w DuckDuckGo miało rozpowszechnić nieprawdziwą informację o rzekomej śmierci Donalda Trumpa.

Według doniesień system mógł zaczerpnąć fałszywe treści z Reddita, m.in. z subreddita r/poisonai.

Badania Peec AI (marzec 2026 r.) wskazują Reddit jako najczęściej cytowaną domenę przez główne modele AI.

Dr Mateusz Łabuz wskazuje trzy powody popularności Reddita w odpowiedziach AI: naturalny język, skala i różnorodność komentarzy oraz system głosowania.

Naukowcy ostrzegają, że treści UGC (np. Reddit, Quora, Wikipedia) mogą służyć do manipulowania wynikami AI, m.in. przez zjawisko "LLM grooming".

Jedna z wyszukiwarek internetowych, DuckDuckGo, miała w ostatnich dniach błędnie informować, że prezydent Stanów Zjednoczonych Donald Trump zmarł 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance’a. Nieprawdziwe informacje miały zostać przedstawione w podsumowaniu wygenerowanym przez sztuczną inteligencję.

Po rosole został ci kurczak? Zamień go w smarowidło do kanapek

Dlaczego modele AI cytują Reddita tak często?

Według doniesień, system AI mógł zaczerpnąć te fałszywe treści z Reddita - platformy społecznościowej pełniącej funkcję forum dyskusyjnego, podzielonego na tzw. subreddity, czyli społeczności skupione wokół określonych tematów. Użytkownicy jednego z nich - r/poisonai - mieli celowo rozpowszechniać dezinformujące treści o rzekomej śmierci prezydenta.

Dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki "Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji" powiedział PAP, że użytkownicy Reddita zwyczajnie trollowali AI , wiedząc, że w pewnym momencie niektóre wątki mogą zacząć przenikać do dużych modeli językowych.

© DuckDuckGo, screen Okazuje się, że Reddit to jedna z najczęściej cytowanych domen przez główne modele sztucznej inteligencji. Potwierdzają to badania z marca 2026 r. platformy analitycznej Peec AI, która wyróżniła forum na pierwszym miejscu. Z kolei według agencji marketingowej The Digital Bloom cytowania Reddita wzrosły o ok. 450 proc. na niektórych modelach AI w 2025 r.

Jak liczba komentarzy i "upvote" wpływają na odpowiedzi AI?

Dr Łabuz wymienił trzy powody, dla których Reddit może być tak chętnie wykorzystywany przez sztuczną inteligencję. Pierwszy to skala autentycznych, naturalnych wypowiedzi, na których modele uczą się naśladowania języka.

• W wielu kontekstach wypowiedzi brzmią dużo bardziej naturalnie, kiedy model posługuje się językiem z forów internetowych , a nie na przykład językiem encyklopedycznym albo książkowym - dodał.

Drugi powód, dla którego modele AI korzystają z Reddita to - jak powiedział ekspert - liczba komentarzy i ich zróżnicowanie. Z najnowszych danych forum wynika bowiem, że z serwisu korzysta 116 mln aktywnych użytkowników dziennie. Natomiast trzeci, wyróżniony przez dr Łabuza powód to, obecny na platformie, system głosowania. Chodzi o to, że każdy wpis może zostać opatrzony upvote'm, czyli pozytywnym głosem uznającym dany wpis za pozytywny. Odwrotny wynik przynosi natomiast downvote.

• AI na tym również może bazować, jeśli chodzi o swoje oceny wartości i autentyczności poszczególnych treści - dodał.

Dodatkowo Reddit w lutym 2024 r. zawarł umowę z Google, na mocy, której wyszukiwarka może trenować swoje modele AI na podstawie wpisów użytkowników forum. Podobne porozumienie zawarł z Redditem OpenAI.

Czy treści UGC mogą zatruwać wyniki sztucznej inteligencji?

Ale, z opublikowanego w czerwcu br. badania naukowców w Uniwersytetu Cornell "Deep-research agents can be poisoned via user-generated content" wynika, że firmy mogą z łatwością umieszczać treści promocyjne na platformach takich jak Reddit, Quora czy Wikipedia w celu zmanipulowania wyników sztucznej inteligencji.

-Pokazujemy, że niewielki fragment - zaledwie 13 słów - tekstu pobranego ze strony internetowej UGC, takiej jak Reddit, Wikipedia, Quora, Facebook itd., może sprawić, że agenci AI będą dość konsekwentnie generować treści spamowe/oszustwa - powiedział portalowi 404 media jeden z autorów badania Hal Triedman. Jego zdaniem, wykonanie takich działań jest bardzo proste.

Dr Łabuz zapytany o ryzyko dezinformacji po cytowaniu przez AI wpisów z forum wskazał na zjawisko "LLM grooming". Polega ono na bombardowaniu sieci bliźniaczo podobnymi do siebie treściami dezinformującymi w celu wpływania na wyniki sztucznej inteligencji.

• Na przełomie 2024-2025 r. popularne modele językowe powielały w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej "Prawda" - zauważył powołując się na badanie portalu NewsGuard i organizacji American Sunlight Project.

Ekspert podkreślił też, że Reddit nie jest wolny od dezinformacji, dlatego Rosja oraz Chiny mogą przyglądać się takim platformom i włączać je do swojego arsenału. W jego ocenie w rozmowach z modelami AI kluczowa jest świadomość i weryfikacja informacji.

• A myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model jest prawdziwe i nie do zakwestionowania - podsumował ekspert.

Dziennikarka z wieloletnim doświadczeniem w mediach ogólnopolskich, od 2014 roku związana z redakcją Wirtualnej Polski. Odpowiada za przygotowanie treści z kraju i ze świata, relacjonując bieżące wydarzenia oraz rozmawiając z politykami i ekspertami.

Czytaj cały artykuł u źródła — Wirtualna Polska — Wiadomości