Polska chce okiełznać sztuczną inteligencję. NASK tworzy specjalne laboratorium
Rozwój sztucznej inteligencji to nie tylko nowe osiągnięcia w zakresie obliczeń, analizy treści czy generowania obrazów i filmów. Nowa technologia jest bowiem aktywnie wykorzystywana przez cyberprzestępców przy przeprowadzaniu różnego rodzaju ataków.
Na łamach naszego portalu zwracaliśmy uwagę na ten problem: zastępca dziekana Wydziału Cybernetyki Wojskowej Akademii Technicznej wskazywał na powiększanie powierzchni ataku przez AI i tworzenie nowych podatności. Z kolei zdaniem Krzysztofa Dykiego , ludzkość weszła w erę „sprawczego AI”, które nie potrzebuje instrukcji do wykonania rzeczy krok po kroku.
e-Dyplomy na uczelniach wyższych. Koniec z papierem od stycznia
Potrzebne prace nad cyberbezpieczeństwem AI
Problem zauważono również na szczeblu rządowym. W ramach powstającego od kilku miesięcy Centrum Cyberbezpieczeństwa NASK będzie funkcjonować Laboratorium AITAS. Ma się ono zajmować bezpieczeństwem, niezawodnością i wiarygodnością sztucznej inteligencji. Jak zaznacza Instytut, ma stanowić jedną z kluczowych części ekosystemu dotyczącą cyberbezpieczeństwa AI.
Wśród zadań jednostki znajdzie się m.in. rozwijanie metod, procedur oraz narzędzi, które będą służyły ocenie modeli sztucznej inteligencji w zakresie zgodności z obowiązującymi przepisami , a także bezpieczeństwa i niezawodności. Jak zauważył cytowany w komunikacie dyrektor NASK Radosław Nielek, rośnie zarówno skuteczność ataków, jak i trudność ich wykrywania.
„Laboratorium AITAS pozwoli m.in. na badanie bezpieczeństwa modeli językowych, a to oznacza lepszą ochronę cyberprzestrzeni i większe bezpieczeństwo dla naszego kraju” – podkreślił szef instytucji.
Skorzysta administracja publiczna
Oprócz działań rozwojowych, jednostka będzie także przygotowywała raporty technologiczne dotyczące bezpieczeństwa i rozwoju AI. Z pomocy Laboratorium skorzysta również administracja publiczna oraz partnerzy zewnętrzni w zakresie oceny ryzyka dotyczącego wdrażania sztucznej inteligencji.
NASK zaznacza, że działania Labortatorium AITAS wpisują się w rosnące zainteresowanie tematyką bezpieczeństwa AI na świecie. Istotne są również potrzeby związane z wiarygodnymi mechanizmami oceny nowoczesnych systemów sztucznej inteligencji oraz ich budową. Nic dziwnego – według dra Sebastiana Cygerta, kierownika Zakładu Bezpieczeństwa i przejrzystości Instytutu, nowe możliwości modeli przekładają się na większe ryzyko dla cyberbezpieczeństwa.
Oprócz Laboratorium AITAS, w ramach Centrum Cyberbezpieczeństwa NASK będą również funkcjonowały m.in. Krajowe Centrum Operacyjne Cyberbezpieczeństwa, Ośrodek Modelowania Certyfikacji Cyberbezpieczeństwa czy Krajowe Centrum Odzyskiwania Danych. Pojawi się także Modelowy Ośrodek Treningowo-Szkoleniowy, który obejmie obszar bezpieczeństwa w sferze cyber.
Dlaczego w pociągach ciągle rwie internet? Posłanka traci cierpliwość i pyta o obietnice