AI wygląda uczciwiej niż człowiek. Wspaniała wiadomość dla oszustówAktualizacja:
Sztuczna inteligencja nie musi już tworzyć idealnie realistycznej twarzy, żeby oszukać człowieka. Wystarczy, że stworzy twarz, której chce się zaufać. I właśnie to jest najgorsza wiadomość z nowego badania nad obrazami generowanymi przez AI.
Uczestnicy opisanych eksperymentów mieli problem z odróżnieniem prawdziwych twarzy od syntetycznych, ale jeszcze ciekawsze było to, że twarze stworzone przez AI oceniali jako bardziej godne zaufania, niż twarze prawdziwych ludzi. To gotowa instrukcja obsługi dla oszustów, dezinformatorów i twórców fałszywych profili.
AI nie musi być idealna. Wystarczy, że wygląda wiarygodnie
Najbardziej zdradliwe w tym odkryciu jest rozdzielenie dwóch rzeczy, które intuicyjnie wrzucamy do jednego worka: realizmu i zaufania. Wydaje nam się, że jeśli coś wygląda mniej realistycznie, powinno budzić mniejsze zaufanie. Najnowsze badanie pokazuje, że wcale nie musi tak być.
Twarze wygenerowane przez nowsze modele dyfuzyjne oceniono jako mniej realistyczne, niż twarze stworzone przez starsze modele GAN. Mimo to właśnie te nowsze twarze dostały najwyższe oceny wiarygodności. Innymi słowy, obraz może być trochę mniej fotograficznie przekonujący, ale nadal wyglądać jak osoba, której chętniej uwierzymy.
To paradoks, który tak naprawdę ma ogromne znaczenie. Oszust nie zawsze potrzebuje twarzy, której nikt nie odróżni od prawdziwego zdjęcia. Potrzebuje twarzy, która obniża czujność. Twarzy spokojnej, proporcjonalnej, sympatycznej, neutralnej, pozbawionej niepokojących cech. Takiej, która wygląda jak normalny konsultant, inwestor, lekarz, rekruter, znajomy znajomego albo właściciel mieszkania do wynajęcia.
Problem polega na tym, że AI potrafi takie twarze produkować masowo. Nie trzeba fotografa, modela, studia ani kradzieży czyjegoś zdjęcia z internetu. Wystarczy narzędzie do generowania obrazów i kilka prób, żeby stworzyć profil, który na pierwszy rzut oka wygląda bardziej przekonująco niż prawdziwy człowiek z przypadkowym selfie.
Jak pisaliśmy w tekście: Sztuczna inteligencja tworzy doskonałe portrety. Nie odróżnisz ich od prawdziwych zdjęć , już wcześniejsze badania pokazywały, że syntetyczne twarze bywają oceniane jako bardziej godne zaufania. Teraz jednak różnica polega na tym, że generatywna AI stała się łatwiejsza, tańsza i bardziej dostępna niż kiedykolwiek wcześniej.
Człowiek widzi twarz i od razu dopowiada charakter
Ludzie są maszynami do oceniania twarzy. Robimy to błyskawicznie i często bez świadomości. Widzimy kogoś przez ułamek sekundy i już mamy wrażenie: sympatyczny, groźny, kompetentny, ciepły, podejrzany, uczciwy, arogancki, zmęczony. To oczywiście bywa głęboko mylące, ale mózg działa tak od dawna, bo twarz była jednym z najważniejszych sygnałów społecznych.
W internecie ten mechanizm jest wykorzystywany wręcz bezlitośnie. Zdjęcie profilowe nie jest tylko ozdobą. To pierwsza kotwica zaufania. Jeśli widzimy twarz, łatwiej uwierzyć, że po drugiej stronie jest prawdziwa osoba. Jeśli twarz wygląda spokojnie i profesjonalnie, rośnie szansa, że klikniemy, odpiszemy albo potraktujemy wiadomość mniej podejrzliwie.
AI podłącza się dokładnie pod ten odruch. Nie musi przekonywać nas argumentami. Najpierw robi coś prostszego: daje nam twarz, którą mózg uznaje za bezpieczną. To bardzo groźne, bo ocena twarzy wydaje się naturalna i osobista. Gdy widzimy podejrzany link, możemy się zatrzymać. Gdy widzimy dziwną domenę, możemy ją sprawdzić. Jednak gdy patrzymy na normalną twarz, często nawet nie zauważamy, że już zaczęliśmy ufać.
Fałszywa osoba może wyglądać lepiej niż prawdziwa
Syntetyczna twarz ma dużą przewagę nad prawdziwą. Nie ma złego światła, dziwnego kadru, przypadkowej miny, zmęczenia, asymetrii, niedoskonałości skóry ani niefortunnego tła. Można ją wygenerować jako idealnie przeciętną, a przeciętność twarzy często działa na nas uspokajająco. Nie za piękna, nie za charakterystyczna, nie za ostra. Po prostu normalna.
Taka twarz świetnie nadaje się do fałszywego profilu w mediach społecznościowych, konta rekrutera, fikcyjnego eksperta, profilu randkowego, fałszywego konsultanta bankowego, osoby polecającej inwestycję albo konta wspierającego określoną narrację polityczną. W wielu takich scenariuszach nie potrzeba deepfake’u wideo. Wystarczy pojedynczy portret i dobrze napisany opis.
To jest tania, skalowalna wiarygodność. Dawniej oszust musiał ukraść czyjeś zdjęcie albo użyć fotografii stockowej, którą dało się czasem znaleźć wyszukiwaniem obrazem. Dziś może stworzyć setki twarzy, których wcześniej nigdzie nie było. Nie ma ofiary kradzieży zdjęcia, nie ma łatwego tropu – jest czysta, wygenerowana tożsamość.
Jak pisaliśmy jeszcze w 2023 r. w tekście: "To jest poważny problem". Deepfejk popularnego youtubera promował oszustwo , znane twarze są wykorzystywane do wyłudzania kliknięć, pieniędzy i zaufania. Jednak fałszywa twarz anonimowej, sympatycznej osoby może być równie skuteczna, bo nie budzi automatycznego pytania: czy to naprawdę on?
To nie tylko problem deepfake’ów celebrytów
Debata o AI i oszustwach bardzo często koncentruje się na gwiazdach. Fałszywy Elon Musk , fałszywy MrBeast, fałszywy polityk, fałszywy dziennikarz, fałszywy lekarz. To działa medialnie, bo znane nazwisko przyciąga uwagę. Jednak najgroźniejsza skala może być gdzie indziej.
Masowe oszustwa nie muszą używać celebrytów. Mogą używać ludzi, którzy wyglądają jak zwykli konsultanci, sąsiedzi, inwestorzy, pracownicy HR, eksperci od kryptowalut, właściciele mieszkań, przedstawiciele fundacji albo osoby szukające relacji. Takie profile nie mają być rozpoznawalne. Mają być wystarczająco wiarygodne, żeby przejść pierwszy filtr podejrzliwości.
I tu nowe badanie jest naprawdę niepokojące. Skoro uczestnicy oceniają twarze AI jako bardziej godne zaufania niż prawdziwe, to oszuści dostają coś więcej niż maskę. Dostają maskę zoptymalizowaną psychologicznie. Nie tylko wyglądam jak człowiek , ale wyglądam jak człowiek, któremu możesz zaufać .
To może działać w phishingu, oszustwach romansowych, fałszywych ofertach pracy, fałszywych zbiórkach, manipulacjach politycznych i kampaniach dezinformacyjnych. Wszędzie tam, gdzie pierwszym krokiem jest zbudowanie minimalnego zaufania.
Wykrywanie oczami przestaje być tu dobrą strategią
Przez lata powtarzano nam, żeby patrzyli na palce, oczy, uszy, tło, zęby, cienie i dziwne artefakty. To miało sens, gdy generatory obrazów robiły wyraźne błędy. Tyle że ta epoka tak właściwie już się skończyła.
W badaniu uczestnicy rozpoznawali prawdziwe i syntetyczne twarze ze skutecznością 58,4 proc. To wynik lepszy niż rzut monetą, ale w praktyce bardzo słaby. Zwłaszcza jeśli mówimy o realnym internecie, gdzie nikt nie siedzi spokojnie w laboratorium i nie ogląda po kolei 96 twarzy z informacją, że połowa może być fałszywa. W codziennym użyciu scrollujemy, klikamy, odpisujemy, jesteśmy zmęczeni i rzadko mamy motywację do analizy każdego zdjęcia.
Najgorsze jest to, że sama pewność siebie nie musi tu pomagać. Ludzie często są przekonani, że widać, czy coś jest wygenerowane. Tymczasem generatory poprawiają się szybciej, niż moglibyśmy sobie to wyobrazić. To, co rok temu było oczywistym błędem, dziś może być już dawno naprawione. To, co dziś wydaje się charakterystyczne dla AI, jutro po prostu zniknie.
Jak niedawno pisaliśmy w tekście: Łatwo rozpoznasz obraz wygenerowany przez AI. Ma sześć kluczowych cech , wykrywanie syntetycznych obrazów coraz częściej wymaga patrzenia nie tylko na proste błędy, ale na bardziej subtelne sygnały. Problem w tym, że oszust nie musi oszukać wszystkich. Wystarczy, że oszuka tych, którzy akurat są zmęczeni, spieszą się albo bardzo chcą uwierzyć.
Najbardziej niebezpieczna jest zwyczajność
Deepfake kojarzy się z czymś spektakularnym: filmem, głosem, twarzą znanej osoby, polityczną manipulacją. Jednak syntetyczna tożsamość może działać znacznie ciszej. Konto z wygenerowaną twarzą może miesiącami komentować, budować historię, dodawać znajomych, dołączać do grup, publikować neutralne treści, a potem nagle promować link, zbiórkę albo narrację.
W tym scenariuszu nie ma jednego wielkiego fałszerstwa, które można łatwo wskazać. Jest powolne budowanie zaufania. AI daje twarz, teksty generuje model językowy, zdjęcia można dorobić w tym samym stylu, a aktywność można częściowo automatyzować. Z punktu widzenia odbiorcy wygląda to jak zwykły człowiek, który od dawna gdzieś tam istnieje.
To jest bardzo groźne dla mediów społecznościowych, portali randkowych, serwisów z ogłoszeniami i platform zawodowych. Cała ekonomia tych miejsc opiera się na tym, że profile reprezentują ludzi, firmy albo instytucje. Jeśli syntetyczne profile są tanie, wiarygodne i masowe, zaufanie do całej infrastruktury zaczyna się kruszyć.
Jak pisaliśmy w tekście: Pomyje ejaj zalewają sieć. W bagnie martwego internetu zaraz zostaną same boty , internet coraz bardziej zapełnia się treściami tworzonymi automatycznie. Syntetyczne twarze są tylko kolejnym elementem tego procesu. Nie tylko tekst może być fałszywy, lecz także osoba, która go podpisuje.
*Grafika wprowadzająca wygenerowana przez AI
O nowych technologiach zaczął pisać jeszcze w 2012 r. na łamach portalu Telix. Później przez pewien czas pisał dla Komputer Świata i PCLabu. Epizod dziennikarski zaliczył także w lokalnej gazecie i w dziale blogowym SpeedTest. Współzałożyciel agencji BlueCopy, zajmującej się copywritingiem i poligrafią. Przez pewien czas właściciel firmy transportowej. Prywatnie fan starych polskich oper mydlanych (oglądanych obowiązkowo z konkubiną), dumny opiekun kotki brytyjskiej i pasjonat-amator druku 3D.