„Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie” – to najnowsza publikacja Państwowego Instytutu Badawczego NASK poświęcona sztucznej inteligencji. Powstała w Dziale Strategii i Rozwoju Bezpieczeństwa Cyberprzestrzeni NASK przy współpracy autorów zewnętrznych. Podejmuje szeroko dyskutowany obecnie temat bezpieczeństwa sztucznej inteligencji, która stała się fundamentem rewolucji technologicznej w wielu dziedzinach – medycynie, bankowości, transporcie, obronności, w sferze porządku publicznego czy egzekwowania prawa.
Jak wskazuje NASK opracowanie, niezwykle aktualne i wręcz niezbędne w dyskursie na temat AI, ujmuje wielostronnie problem cyberbezpieczeństwa AI oraz zastosowania tej technologii w zwalczaniu zagrożeń. Artykuły dotyczą zarówno aspektów technicznych, jak też analiz z obszaru cyberpolicy.
W „Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie” przeczytasz m.in. o:
- wrogim wykorzystaniu danych treningowych lub trenowanych modeli,
- atakach na algorytmy uczenia maszynowego,
- technicznej weryfikacji wiarygodności systemów,
- cyberbezpieczeństwie medycznej AI,
- wykorzystaniu przez cyberprzestępców sztucznej inteligencji (w tym technologii deepfake) w atakach na klientów rynku finansowego,
- zasadach odpowiedzialnego wykorzystania AI przez NATO,
- polityce UE wobec AI,
- AI Act,
- trudnościach regulatorów w nadążaniu za rozwojem AI i kłopotach w stworzeniu jednolitej definicji sztucznej inteligencji.
Publikację otwiera opracowanie „Cyberbezpieczeństwo systemów wykorzystujących sztuczną inteligencję w świetle raportów ENISA” autorstwa Krzysztofa Silickiego, dyrektora ds. strategicznego rozwoju cyberbezpieczeństwa w NASK. Formułuje on wnioski dotyczące systemów ICT, które wykorzystują technologie sztucznej inteligencji w kontekście zabezpieczeń wynikających ze specyficznych zagrożeń dla samouczących się algorytmów. Stawia tezę, że „cyberataki na systemy sztucznej inteligencji mogą polegać na wrogim wykorzystaniu określonych zasobów, takich jak zbiory danych treningowych lub trenowane modele (np. wprowadzanie do modelu szkodliwych danych) lub wykorzystaniu konkretnych podatności systemu sztucznej inteligencji bądź w infrastrukturze ICT, na której opiera się dany system”.
W dalszej części publikacji znajdują się artykuły zarówno ekspertów z NASK-PIB, jak i przedstawicieli środowisk akademickich, prawniczych czy administracji.
Duża część pracy poświęcona jest aspektom technicznym, ale w opracowaniu pojawiają się także artykuły dotyczące strategicznych, regulacyjnych i organizacyjnych wątków rozwoju AI.
Publikacja jest bezpłatna, do pobrania w formacie PDF.
Źródło: NASK