Algorytmy wykryły zagrożenie, korporacja milczała. OpenAI odpowie za masakrę
Rząd kanadyjskiej prowincji Kolumbia Brytyjska poinformował we wtorek o wynajęciu prawników, którzy mają zaproponować działania przeciw OpenAI w związku z tym, że firma ta nie poinformowała policji o zagrożeniu ze strony osoby, która w lutym br. zabiła osiem osób w Tumbler Ridge.
„Kiedy pojawiają się poważne obawy, że nie zostały wykorzystane możliwości zapobieżenia wypadkom, mamy obowiązek działać. Jesteśmy to winni ofiarom, ich rodzinom i wszystkim, których życie zmieniło się przez tę tragedię” – oświadczyła prokurator generalna Kolumbii Brytyjskiej Niki Sharma.
10 lutego br. w miejscowości Tumbler Ridge w wyniku strzelaniny zginęło osiem osób, w tym w lokalnej szkole zastrzelonych zostało pięcioro dzieci w wieku od 11 do 13 lat. Ponadto 27 osób odniosło rany.
Pochodząca z Tumbler Ridge zabójczyni popełniła samobójstwo. Jesse Van Rootselaar miała konto na ChatGPT i zamieszczała tam wpisy na temat przemocy z użyciem broni . Jeszcze w ub.r. wewnętrzne mechanizmy kontroli OpenAI wykryły te wpisy i odpowiednio oznaczyły, co doprowadziło do zamknięcia konta, natomiast firma nie powiadomiła policji.
Dlaczego twórcy ChatGPT nie zapobiegli masakrze w Tumbler Ridge?
W lutym br. „Wall Street Journal” podał, że pracownicy OpenAI rozważali zawiadomienie policji, obawiając się rozwoju sytuacji. Jednak mimo takich sygnałów OpenAI postanowiła nie powiadamiać kanadyjskiej policji, Royal Canadian Mounted Police (RCMP), ponieważ firma uznała, że stopień zagrożenia jest niewystarczający, by wiarygodnie zidentyfikować planowanie użycia bron i.
RCMP informowała w lutym br., że OpenAI skontaktowała się z prowadzącymi śledztwo już po wydarzeniach w Tumbler Ridge.
Według agencji Canadian Press, OpenAI miała spotkanie z przedstawicielami rządu Kolumbii Brytyjskiej już wcześniej zaplanowane na dzień po tragicznych wypadkach, ale w czasie tego spotkania przedstawiciele amerykańskiej firmy nie wspomnieli o swoich obawach. Dopiero dzień po tym spotkaniu w Kolumbii Brytyjskiej OpenAI poprosiła o kontakt z RCMP.
24 kwietnia br. założyciel OpenAI Sam Altman opublikował w lokalnej gazecie „Tumbler RidgeLines” list z przeprosinami za brak działania firmy.
To będzie głośny proces przeciwko OpenAI
Kolumbia Brytyjska wybrała dwie kancelarie prawne - jedną kanadyjską i jedną amerykańską - „w celu przeanalizowania wszystkich prawnych możliwości, by pociągnąć OpenAI i osoby podejmujące decyzje do odpowiedzialności za udokumentowany brak działania i powiadomienia organów prawa”. Siedziba OpenAI znajduje się w stanie Kalifornia, dlatego rząd Kolumbii Brytyjskiej zamierza skorzystać z usług kancelarii z tego stanu.
Te działania są spójne ze zobowiązaniem prowincji, by pociągać wielkie korporacje do odpowiedzialności, kiedy ich produkty lub praktyki powodują szkody dla ludzi i społeczności – oświadczył rząd Kolumbii Brytyjskiej. Wcześniej kilka rodzin z Tumbler Ridge wniosło w Kalifornii własne pozwy przeciw OpenAI.
Z Toronto Anna Lach(PAP)
lach/ mal/