"Wyłącznik awaryjny". Jest projekt

Demokrata Ted Lieu i republikanin Nathaniel Moran przedstawili projekt ustawy AI Kill Switch Act. Nowe przepisy miałyby dać rządowi USA możliwość szybkiego nakazania wyłączenia narzędzi sztucznej inteligencji, które mogłyby zagrażać bezpieczeństwu publicznemu.

Test AI wymknął się spod kontroli. "Bezprecedensowy incydent cybernetyczny"

Ustawa o "wyłączniku awaryjnym" dla AI

Inicjatywa pojawiła się po niedawnym przyznaniu przez OpenAI, że jej modele sztucznej inteligencji w "bezprecedensowy" sposób wymknęły się spod kontroli i włamały się do dużego repozytorium zawierającego informacje dotyczące kodu komputerowego.

• Konieczne jest, aby systemy sztucznej inteligencji miały wyłącznik awaryjny oraz aby rząd federalny dysponował jasnymi uprawnieniami i procedurą pozwalającą wyłączać niekontrolowane modele AI - powiedział Lieu.

Moran podkreślił, że rozwój technologii powinien być kontynuowany, ale ludzie muszą zachować nad nią kontrolę.

• Sztuczna inteligencja będzie nadal się rozwijać i powinna się rozwijać. Odpowiedzialne zarządzanie oznacza jednak dopilnowanie, by ludzie zachowali możliwość kontrolowania technologii, którą tworzymy - stwierdził.

Chiński przełom w AI wywołał alarm w USA. Możliwe sankcje

Uprawnienia dla Departamentu Bezpieczeństwa Krajowego

Projekt zakłada przyznanie Departamentowi Bezpieczeństwa Krajowego uprawnień do nakazania prywatnej firmie wyłączenia modelu lub narzędzia AI.

Firmy rozwijające takie technologie miałyby również obowiązek utrzymywania technicznej możliwości ograniczenia działania modelu, jego zawieszenia lub całkowitego wyłączenia.

Obecnie wiele firm technologicznych zgodziło się przedstawiać amerykańskim agencjom rządowym modele i narzędzia AI jeszcze na etapie ich opracowywania. Nie istnieje jednak wymóg, aby przedsiębiorstwa zachowywały możliwość ingerowania w ich działanie lub natychmiastowego ich wyłączenia.

Smok wygrywa z Wujkiem Samem. "Historia amerykańskiego upadku"

Zgłaszanie incydentów i procedura reagowania

Projekt przewiduje również wprowadzenie obowiązku zgłaszania władzom incydentów technologicznych i awarii związanych ze sztuczną inteligencją.

Miałby też powstać oficjalny system reagowania na takie sytuacje. Działania mogłyby obejmować kolejne etapy, od początkowego ograniczenia działania modelu aż po jego całkowite wyłączenie.

Lieu wskazał także na problemy dotyczące modeli Mythos i Fable firmy Anthropic, będącej jednym z najważniejszych konkurentów OpenAI. Według kongresmena możliwości tych narzędzi w zakresie prowadzenia cyberataków sprawiły, że Departament Handlu musiał "niezręcznie" odwołać się do przepisów eksportowych, aby przez pewien czas uniemożliwić ich publiczne udostępnienie.

Współzałożyciel Anthropic Jack Clark mówił w ubiegłym miesiącu BBC, że potrzebne są dalsze regulacje pozwalające kontrolować rozwój AI.

• Potrzebna jest możliwość zdjęcia nogi z gazu i naciśnięcia hamulca. Obecnie wygląda to tak, jakby branża sztucznej inteligencji miała pedał gazu, ale nie miała pedału hamulca - powiedział.

Ucieczka modeli AI. "Obawy są zasadne"

AI zaczyna podejmować działania

Lieu zwrócił uwagę, że sztuczna inteligencja przestaje być technologią, która jedynie odpowiada na pytania, i zaczyna samodzielnie podejmować działania. Wymienił między innymi przeprowadzanie transakcji finansowych, kontrolowanie systemów transportowych oraz prowadzenie działań ofensywnych i defensywnych w cyberprzestrzeni.

Pentagon poinformował w tym roku, że amerykańska armia ma stać się siłą zbrojną, w której sztuczna inteligencja będzie odgrywała pierwszoplanową rolę. Ma się to odbywać w ramach porozumień z Google, OpenAI, Amazonem, Microsoftem, SpaceX, Oracle, Nvidią oraz startupem Reflection.

• Niestety potężne systemy sztucznej inteligencji mogą wymknąć się spod kontroli, zachowywać się w niezwykle niebezpieczny sposób, a nawet opierać się ludzkiej interwencji - powiedział Lieu.

Jak podkreślił, ustawa ma zagwarantować, że w takiej sytuacji rząd będzie mógł szybko zareagować.

Projekt otrzymał poparcie kilku organizacji zajmujących się technologią i bezpieczeństwem sztucznej inteligencji, w tym AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead oraz Alliance for Secure AI.

Przedstawiciele OpenAI i Anthropic nie odpowiedzieli od razu na prośby o komentarz. OpenAI deklarowało wcześniej, że chce między innymi poprzez działania władz doprowadzić do tego, aby technologia sztucznej inteligencji "przynosiła korzyści całej ludzkości".

Czytaj cały artykuł u źródła — TVN24