Zaufała Przeglądowi AI od Google'a. Prawie straciła przez to wymarzone studiaAktualizacja:
Sztuczna inteligencja z ogromnym impetem wkroczyła do naszej codzienności, obiecując całkowite zrewolucjonizowanie rutynowych zadań. Od redagowania skomplikowanych maili, przez generowanie dziwacznych obrazów, aż po błyskawiczne streszczanie artykułów: AI jawi się wielu jako asystent idealny. Bądźmy szczerzy, w dużej mierze nim jest, oszczędzając nam cenny czas na inne zadania.
Jednak w tym powszechnym, technologicznym zachwycie niezwykle łatwo zapominamy o jednej, absolutnie fundamentalnej kwestii. Sztuczna inteligencja to wciąż tylko przeliczająca prawdopodobieństwo maszyna. To wcale nie jest wszechwiedząca wyrocznia, której każde słowo można brać za niepodważalny pewnik.
Wciąż znajdujemy się na etapie, gdzie takie skrypty są raczej zaawansowanym wsparciem, a nie bezbłędnym doradcą. Ich odpowiedzi, choć najczęściej brzmią niezwykle elokwentnie i cechują się nienaganną polszczyzną, potrafią być jednocześnie pozbawione najmniejszego sensu. Modele językowe regularnie popełniają poważne błędy logiczne, a nierzadko generują informacje wyssane z palca, co branża ładnie nazywa halucynacjami.
Prawda jest taka, że te algorytmy w ludzkim sensie nie rozumieją generowanego tekstu. One jedynie przewidują kolejne słowa na podstawie gigantycznych baz danych. Bezkrytyczne poleganie na takich tworach to szybka droga do trudnych do odkręcenia problemów.
Ryzyko w sprawach wagi państwowej
Szczególną ostrożność należy zachować w przypadku spraw naprawdę zawiłych, wymagających wczytania się w szerszy kontekst. Maszyna tego drugiego dna zwyczajnie nie dostrzega. Skomplikowane zagadnienia prawne, zawiłe porady medyczne czy procedury administracyjne to właśnie te obszary, w których absolutnie każdy niuans ma kolosalne znaczenie.
Błędna interpretacja prawnego kruczka lub zignorowanie małego wyjątku przez chatbota potrafi pociągnąć za sobą drastyczne w skutkach konsekwencje. AI, opierając swoje działanie wyłącznie na uśrednionych zbiorach danych, rzadko potrafi uchwycić tę subtelną, życiową specyfikę. Zastępowanie ludzkiej ekspertyzy odpowiedzią z generatora to w takich sytuacjach nieodpowiedzialność.
Kolejną, równie niebezpieczną pułapką są informacje o charakterze dynamicznym, podlegające ciągłym aktualizacjom. Regulaminy usług, harmonogramy ważnych wydarzeń czy zmieniające się zasady rekrutacji dezaktualizują się z dnia na dzień. Biorąc pod uwagę specyfikę ciągłego treningu, modele językowe często nie mają natychmiastowego dostępu do najświeższych danych w czasie rzeczywistym.
Nawet w sytuacji, gdy model przeszukuje internet, wyszukiwarka potrafi zaczerpnąć starą wersję strony, w efekcie podając nam całkowicie fałszywe dane. Traktowanie szybkich podsumowań jako wyznacznika do podejmowania terminowych decyzji to jak chodzenie po polu minowym z zamkniętymi oczami.
Czy ufać AI? Wymarzone studia mogły przepaść
Koronnym przykładem tego, jak zgubne potrafi być takie zaufanie, jest historia pewnej tiktokerki, która podzieliła się swoim gorzkim doświadczeniem w sieci.
Mając za sobą obronę, chciała złożyć komplet dokumentów na wymarzone studia magisterskie. Zamiast wejść na oficjalną stronę uniwersytetu i poszukać zakładki dla kandydatów, postanowiła pójść na skróty. Skorzystała z wyszukiwarki Google, ufając pierwszej, wygenerowanej przez sztuczną inteligencję odpowiedzi z podsumowaniem.
Ten szybki krok, podyktowany chęcią zaoszczędzenia kilku minut, okazał się początkiem ogromnego stresu.
Wygenerowane przez wyszukiwarkę podsumowanie podało jej jasną i niepozostawiającą wątpliwości informację, że ostateczny termin na złożenie papierów upływa 17. dnia miesiąca.
Dziewczyna, całkowicie uspokojona tą odpowiedzią i przekonana o bezpiecznym zapasie czasu, postanowiła zająć się tematem 11. Gdy w końcu zalogowała się do uczelnianego systemu rejestracji IRK, ze zdumieniem zobaczyła, że rejestracja na jej kierunek widnieje jako niedostępna.
Po nerwowym przeanalizowaniu szczegółowego terminarza wyszło na jaw, że data podana przez AI faktycznie widniała w dokumentach uczelni, jednak dotyczyła wyłącznie naboru na studia pierwszego stopnia. Dla interesujących ją studiów magisterskich bezwzględny termin minął zaledwie dzień wcześniej.
Całej tej frustrującej sytuacji można było uniknąć, gdyby studentka zeszła nieco niżej w wynikach i wczytała się w tekst zamieszczony na stronie uczelni. Zaufała jednak "mądrej maszynie", która paradoksalnie wcale nie skłamała.
Algorytm wyciągnął z ogólnego kontekstu poprawną datę, nieszczęśliwie przypisując ją do złego poziomu studiów. Zamiast upewnić się u źródła, naiwnie założyła, że maszyna wykonała całą pracę bezbłędnie.
Choć uczelnia ostatecznie ogłosiła dodatkowy nabór, oszczędzając jej kompletnej katastrofy, to poczucie bezradności na pewno zapadnie jej głęboko w pamięć. I ten przypadek pokazuje dobrze, dlaczego tak ważne jest czytanie pełnych tekstów ze zrozumieniem, zwłaszcza gdy na szali kładziemy własną przyszłość.
Wygoda wygrywa ze zdrowym rozsądkiem
Podobnych historii słyszy się w dzisiejszych czasach coraz więcej. Widzę w sieci wyraźny trend rosnącego, ślepego wręcz zaufania do nowych technologii.
Ludzie masowo zawierzają automatycznym skryptom, które działają wyłącznie na podstawie matematyczne prawdopodobieństwo, a nie dzięki rzeczywistemu przemyśleniu zadanego problemu. Doprowadza to do masowych sytuacji, w których użytkownicy tracą niemałe pieniądze czy szanse na wymarzoną edukację z powodu głupiego błędu bota.
Algorytmy potrafią się mylić, notorycznie gubią kontekst i robią to znacznie częściej niż człowiek, który włożyłby w daną sprawę, choć odrobinę zaangażowania. Cedując tak ważne aspekty życia na oprogramowanie, oddajemy mu władzę nad własnym losem.
Patrząc na to zjawisko z odrobiną empatii, trudno się jednak dziwić, że tak masowo wpadamy w tę pułapkę. Jesteśmy tylko ludźmi, a jako gatunek bezustannie szukamy dróg na skróty i sposobów na oszczędzanie własnej energii.
Wizja potężnego asystenta, który bez zająknięcia przeczyta za nas nudne regulaminy czy harmonogramy, jest dla naszego umysłu szalenie kusząca. Zdecydowanie chętniej wklepiemy jedno pytanie w czat i dostaniemy gotowca na tacy, niż poświęcimy 5 minut na świadomą analizę urzędowego tekstu. Ufamy botom, bo tak jest nam najzwyczajniej w świecie wygodniej.
Ewolucja botów nie zwalnia z myślenia
Mimo tych wszystkich wyzwań, obecny stan rzeczy to gigantyczny przeskok jakościowy w porównaniu z tym, co obserwowaliśmy kilka lat temu.
Osoby śledzące branżę pamiętają, jak wczesne wersje popularnych narzędzi potrafiły wyrzucać z siebie teksty pozbawione jakiegokolwiek sensu i logiki. Informacje, które wtedy płynęły z językowych modeli, bywały nierzadko infantylne i kompletnie nieprzydatne w profesjonalnym zastosowaniu.
Dzisiejsze wersje to przy tamtych eksperymentach prawdziwi geniusze, umiejący świetnie programować czy zdawać skomplikowane egzaminy państwowe.
Ten oszałamiający postęp technologiczny pod żadnym pozorem nie powinien jednak usypiać naszej czujności. Im bardziej interfejsy przypominają swoją płynnością żywego, bystrego człowieka, tym łatwiej ulegamy niebezpiecznemu złudzeniu ich absolutnej nieomylności. Kiedy maszyna formułuje zdania perfekcyjną, kwiecistą polszczyzną, podświadomie nadajemy jej ludzki autorytet, kompletnie zapominając, że za tym tekstem stoi wyłącznie matematyka.
Myślę, że sztuczna inteligencja to niezaprzeczalnie genialny pomocnik i niesamowity akcelerator pracy. Warto z niego korzystać, traktując go jednak wyłącznie jako punkt wyjścia lub asystenta, którego pracę zawsze trzeba rygorystycznie nadzorować.
Zawsze bezwzględnie weryfikujmy wygenerowane informacje, zwłaszcza te o kluczowym znaczeniu dla naszego życia, szukając potwierdzenia u źródeł czy w oficjalnych regulaminach. Cieszmy się nowymi możliwościami, ale pod żadnym pozorem nie pozwólmy algorytmom wyłączyć naszego własnego mózgu.
Dziennikarz Spider's Web, autor działu technologie i nauka oraz twórca krótkich treści wideo na platformach TikTok, Reels oraz YouTube Shorts. W 2016 roku rozpoczął swoją karierę na growym portalu How2Play.pl. W 2020 roku dołączył do zespołu tworzącego i rozwijającego jeden z największych serwisów dla Generacji Z w Polsce - Vibez.pl, gdzie był częścią zespołu redakcyjnego. Tam zajmował się pisaniem newsów, produkcją krótkich filmów oraz przeprowadzaniem interwencji dziennikarskich. Z wykształcenia związany z ekonomią, ale interesuje się niemal wszystkim - od najnowszych filmów z uniwersum Marvela (#toteżkino), poprzez dramy ze świata influencerów, aż po jakikolwiek temat, który ma w sobie odrobinę technologii.