TikTok zalany treściami AI. Głównie dla dzieci
Z raportu Kapwing – firmy zajmującej się m.in. generowaniem materiałów w oparciu o AI – wyłania się obraz dzisiejszego TikToka jako platformy, gdzie w wybranych aspektach dominują treści generowane przez sztuczną inteligencję.
Trzy lata temu na łamach naszego portalu opisywaliśmy mechanizmy zarabiania na niskojakościowych treściach wygenerowanych przez AI w ramach stron internetowych, określanych jako „farmy treści”. Poruszyliśmy również problem fałszywych recenzji w oparciu o AI.
Kwestię dzieci na chińskiej platformie poruszaliśmy w wywiadzie z Kingą Szostko, Prezeską Fundacji Prospołeczna.
CyberMagazyn: TikTok. Samookaleczanie, patotreści i wiele więcej
„AI slop" na TikToku
Badacze założyli nowe konto na TikToku. Zgodnie z informacjami na stronie platformy, przy braku określenia kategorii zainteresowań, użytkownikom wyświetlane są popularne treści , dopasowane do szerokiego grona odbiorców, uwzględniając lokalizację i język.
Wśród pierwszych 500 tiktoków, aż 294 z nich (58,8%) było „AI slopem”.
Ciekawie robi się również w odniesieniu do szerszej próby badawczej. Analizie poddano ok. 10,5 tys. filmów z 20 najpopularniejszych kategorii. W przypadku treści zakwalifikowanych do kategorii „dzieci” mowa aż o 57,4% udziału treści wygenerowanych przez AI.
Statystyki dla pięciu dominujących kategorii z udziałem „AI slopu” wyglądają następująco:
Udział "AI slopu" na Tiktoku w badaniu
Najmniejszy udział filmów wygenerowanych przez AI dotyczył: mody (1,3%), muzyki (1,5%) i fitnessu (1,6%) .
Dzieci
Badacze przeanalizowali 2 tys. filmików z kategorii „dzieci”. 57,4% z nich zakwalifikowali jako „AI slop”. W przypadku hashtagu „#cartoonkids” (bajki dla dzieci) aż 97 na 100 tiktoków było „AI slopem”. Prawie połowa treści oznaczonych „#learningforkids” (nauka dla dzieci) to treści generowane przez sztuczną inteligencję.
Dr Dana Suskind z Uniwersytetu w Chicago alarmowała , że treści wytworzone przez AI stanowią zagrożenie dla rozwoju mózgu małych dzieci .
Badania z Wielkiej Brytanii wskazują , że aż 70% dzieci do drugiego roku życia korzysta z ekranów.
Brytyjski rząd zmusi Big Techy do promowania rzetelnych informacji?
Co to oznacza?
W maju 2025 roku naukowcy z Microsoftu opublikowali wyniki badania dotyczącego wykrywania treści AI przez ludzi . Okazało się, że spośród 287 tys. prób rozpoznania tego, czy obraz jest wygenerowany przez sztuczną inteligencję, aż 110 tys. było błędnych. Daje to poprawność na poziomie 62% . Naukowcy podkreślają, że to niewiele więcej niż w przypadku rzutu monetą. Nieco lepiej rozpoznajemy ludzi i pojazdy niż naturę.
W listopadzie ub. r. na TikToku miało być aż 1,3 miliarda filmików wygenerowanych przez AI.
Często jesteśmy w stanie wskazać oczywiste błędy w treściach generowanych przez AI, lecz nie zawsze to musi być dla nas oczywiste. Przykładem mogą być obrazy wygenerowane przez AI dotyczące holocaustu , co opisywało AFP w 2025 roku.
Długoterminowe skutki ekspozycji najmłodszych na treści AI zapewne będą znane dopiero za kilka lat .
„(…) TikTok zapewnia niektórym podmiotom z naszej grupy korporacyjnej zlokalizowanym w Chinach zdalny dostęp do niektórych danych osobowych naszych użytkowników z EOG (Europejski Obszar Gospodarczy – przyp. red.)” – czytamy w komunikacie TikToka odnośnie decyzji irlandzkiego odpowiednika Urzędu Ochrony Danych Osobowych. Skutkowało to karą w wysokości 530 mln euro .