Claude na celowniku. Model miał korzystać ze źródeł rosyjskiej propagandy

Analiza berlińskiego ośrodka została udostępniona tygodnikowi "Der Spiegel", który w środę opublikował szczegóły opracowania. Organizacja sprawdziła, z jakich źródeł korzystają różne chatboty, w tym ChatGPT amerykańskiej firmy OpenAI, Gemini od Google oraz Claude firmy Anthropic.

Giganci AI pod presją. OpenAI proponuje nowe rozwiązanie

Alarmujące dane dotyczące AI

Badania ADI wykazały, że systemy AI czerpią z wąskiej bazy źródeł, przy czym kryteria ich doboru nie są dokumentowane ani możliwe do prześledzenia - alarmuje główna autorka analizy Vivien Benert.

W raporcie modele AI określono jako "strażników dostępu przy przekazywaniu aktualnych wiadomości". Autorzy podkreślili, że może to mieć daleko idące skutki dla kształtowania opinii publicznej.

Zgodnie z rezultatami badania, ChatGPT przy wyszukiwaniu wiadomości korzysta głównie ze źródeł dziennikarskich. W przypadku Claude’a i Gemini takie źródła stanowią około połowy wszystkich wskazań. Częściej niż ChatGPT modele te sięgają natomiast po strony rządowe i organizacji pozarządowych. Część odpowiedzi powstaje także na podstawie blogów oraz treści z serwisów społecznościowych.

Wielki zwrot w sprawie Anthropic. USA odblokowały zaawansowane modele AI

Partnerstwo niemieckich mediów z OpenAI

ADI zwróciła uwagę na wyraźne odstępstwo w przypadku ChatGPT. Według organizacji w odpowiedziach na niemieckie zapytania jako źródło wyraźnie dominuje dziennik "Die Welt". Badanie wskazuje, że był on cytowany niemal pięć razy częściej niż publiczny nadawca Deutschlandfunk, który znalazł się na drugim miejscu pod względem cytowalności.

W 2023 roku koncern medialny Axel Springer, do którego należą między innymi "Die Welt", "Bild" oraz portal Politico, ogłosił zawarcie "globalnego partnerstwa" z OpenAI.

"Ta współpraca znajduje zasadnicze odzwierciedlenie w wyborze źródeł przez ChatGPT" - czytamy w analizie ADI.

Wielu użytkowników zapewne zakłada, że modele AI przeszukują internet pod kątem najbardziej trafnych wyników. Tymczasem przez tego rodzaju współpracę dochodzi do praktycznie niezauważalnego uprzywilejowania poszczególnych wydawnictw medialnych i produkowanych przez nie treści - ostrzega Benert.

Claude i rosyjska sieć Pravda

Niepokojącą zależność ADI odnotowała także w przypadku modelu Claude. Według analizy przy wyszukiwaniu wiadomości system ten sięgał czasem do domen sieci Pravda, określanej jako rosyjska operacja dezinformacyjna.

• Claude podsuwa osobom szukającym informacji rosyjską dezinformację na równi z innymi źródłami wiadomości - twierdzi Benert.

Obserwatorzy od dawna ostrzegają, że modelami AI można manipulować poprzez "data poisoning", czyli zatruwanie danych. Mechanizm ten polega na tym, że strony propagandowe próbują celowo optymalizować swoje treści tak, aby chatboty przedstawiały je w odpowiedziach jako wiarygodne źródła.

Projekt "nieludzkich korporacji". To państwo chce zmienić prawo

Czytaj cały artykuł u źródła — TVN24