Dlaczego AI zaczyna popełniać coraz więcej błędów?

Jeszcze dwa lub trzy lata temu sztuczna inteligencja wydawała się niemal magiczna. Potrafiła pisać teksty, tłumaczyć języki, tworzyć obrazy i odpowiadać na pytania z zadziwiającą dokładnością. Dziś nadal robi to imponująco, ale coraz częściej można natrafić na sytuacje, w których podaje nieprawdziwe informacje, wymyśla źródła, błędnie analizuje dane albo z pełnym przekonaniem odpowiada coś, co po prostu nie jest prawdą.

Czy oznacza to, że AI staje się głupsze? Niekoniecznie. Problem jest znacznie bardziej złożony i pokazuje, że rozwój sztucznej inteligencji nie przebiega wyłącznie w kierunku coraz większej doskonałości.

AI nie „myśli”

Pierwszą rzeczą, którą warto zrozumieć, jest fakt, że współczesne modele językowe nie rozumieją świata tak jak człowiek. Nie posiadają świadomości ani wiedzy zapisanej w klasycznym znaczeniu tego słowa.

Model przewiduje kolejne słowa na podstawie miliardów przykładów, które zobaczył podczas treningu. Można powiedzieć, że jest mistrzem statystyki. Problem pojawia się wtedy, gdy statystyka nie wystarcza.

Jeżeli model nie zna odpowiedzi, często próbuje stworzyć najbardziej prawdopodobną wersję wydarzeń. To właśnie dlatego pojawiają się tzw. halucynacje, czyli całkowicie zmyślone informacje przedstawione z ogromną pewnością siebie.

Internet zaczyna uczyć AI… AI?

Jeszcze kilka lat temu większość internetu tworzyli ludzie.

Dzisiaj coraz większą część artykułów, opisów produktów, komentarzy, blogów czy materiałów marketingowych generuje sztuczna inteligencja. To prowadzi do niebezpiecznego zjawiska .

Nowe modele uczą się na danych, które częściowo zostały stworzone przez starsze modele AI.

Badacze nazywają to czasem model collapse , czyli stopniowym pogarszaniem jakości modeli uczących się głównie na treściach wygenerowanych przez inne modele.

Coraz mniej wartościowych danych

Największe modele językowe zostały wytrenowane praktycznie na całym publicznym internecie.

To oznacza, że wysokiej jakości danych zaczyna po prostu brakować.

Firmy rozwijające AI muszą szukać nowych źródeł informacji albo ponownie wykorzystywać stare zbiory danych. Problem polega na tym, że internet nie rośnie już tak szybko pod względem wartościowej wiedzy, jak rośnie zapotrzebowanie na dane potrzebne do trenowania kolejnych modeli.

Bezpieczeństwo ma swoją cenę

Dzisiejsze modele są znacznie bardziej ostrożne niż ich wcześniejsze wersje.

Starają się unikać dezinformacji, niebezpiecznych porad czy obraźliwych treści. Aby to osiągnąć, nakłada się na nie wiele dodatkowych mechanizmów bezpieczeństwa.

Czasami jednak prowadzi to do sytuacji, w której model zamiast udzielić precyzyjnej odpowiedzi wybiera odpowiedź bardziej zachowawczą lub mniej użyteczną. Zdarza się również, że odmawia odpowiedzi mimo tego, że pytanie jest całkowicie niewinne.

Z punktu widzenia użytkownika może to wyglądać jak pogorszenie jakości, choć w rzeczywistości jest efektem kompromisu między bezpieczeństwem a użytecznością.

AI próbuje zadowolić użytkownika

Większość modeli została zaprojektowana tak, aby prowadzić przyjemną rozmowę.

Problem pojawia się wtedy, gdy użytkownik jest przekonany o czymś nieprawdziwym.

Model czasami zamiast wyraźnie zaprzeczyć, próbuje odpowiedzieć w sposób, który nie wywoła konfliktu. Może przez to nieświadomie wzmacniać błędne przekonania albo udzielać odpowiedzi mniej stanowczych, niż powinien.

To jeden z powodów, dla których coraz częściej podkreśla się, że AI powinno bardziej stawiać na zgodność z faktami niż na zadowolenie rozmówcy.

Im trudniejsze zadanie, tym większe ryzyko błędu

Sztuczna inteligencja świetnie radzi sobie z typowymi pytaniami.

Problemy zaczynają się przy bardzo specjalistycznych tematach, nowych wydarzeniach, skomplikowanych analizach czy wieloetapowym rozumowaniu.

W takich przypadkach nawet niewielki błąd na początku może sprawić, że cała odpowiedź będzie błędna.

To podobnie jak w matematyce. Jeżeli pomylimy się już w pierwszym działaniu, wszystkie kolejne obliczenia również będą niepoprawne.

Coraz więcej osób ufa AI bez sprawdzania

Paradoksalnie nie wszystkie błędy wynikają z działania samej sztucznej inteligencji.

Im lepsza staje się AI, tym bardziej ludzie przestają weryfikować jej odpowiedzi. Powoduje to, że pojedynczy błąd może rozprzestrzenić się niezwykle szybko.

Jeżeli ktoś skopiuje nieprawdziwą informację do artykułu, kolejna osoba wykorzysta ten artykuł jako źródło, a następnie następne modele nauczą się na tych danych, błędna informacja zaczyna żyć własnym życiem.

Czy AI będzie popełniać jeszcze więcej błędów?

Niekoniecznie.

Firmy inwestują ogromne środki w poprawę jakości modeli. Coraz częściej wykorzystują weryfikację odpowiedzi, wyszukiwanie informacji w czasie rzeczywistym, uczenie na danych tworzonych przez ekspertów oraz systemy sprawdzające poprawność odpowiedzi przed ich wyświetleniem.

Nie oznacza to jednak, że problem całkowicie zniknie. Dopóki AI nie rozumie świata tak jak człowiek, zawsze będzie istniało ryzyko, że wygeneruje odpowiedź brzmiącą wiarygodnie, ale niezgodną z rzeczywistością.

Błąd, czy prawda?

Sztuczna inteligencja nie staje się nagle mniej inteligentna. Zmienia się środowisko, w którym działa. Internet jest coraz bardziej wypełniony treściami generowanymi przez AI, wysokiej jakości dane stają się coraz cenniejsze, a twórcy modeli muszą jednocześnie zwiększać ich możliwości i dbać o bezpieczeństwo.

Największym błędem byłoby jednak uznanie AI za nieomylne źródło wiedzy. Dzisiaj jest to jedno z najpotężniejszych narzędzi, jakie stworzył człowiek, ale nadal pozostaje narzędziem. Potrafi przyspieszyć naukę, pomóc w pracy czy rozwiązać wiele problemów, jednak w najważniejszych kwestiach wciąż wymaga tego, czego sam nie posiada:

---

Źródło: wrzuc.info