Deepfake i zatrute modele AI: cyberbezpieczeństwo banków pod presją

83 proc. banków ma trudności z dostosowaniem cyberbezpieczeństwa do tempa wdrażania generatywnej AI, a 58 proc. konsumentów obawia się o ochronę swoich danych osobowych i finansowych.

• cyberprzestępcy wykorzystują m.in. zatruwanie modeli AI, generatywną AI do phishingu oraz oszustw deepfake – liczba prób manipulacji fałszywym audio i wideo wzrosła w 2024 r. o 1300 proc.

Aż 83 proc. banków ma trudności z dostosowaniem mechanizmów bezpieczeństwa do tempa wdrażania technologii takich jak generatywna sztuczna inteligencja – wynika z badań Accenture przywołanych w „The European Banking Cybersecurity Report 2026” firmy Fortinet. Jednocześnie 58 proc. konsumentów obawia się sposobu, w jaki banki chronią ich dane osobowe i finansowe. W branży, której działalność bazuje na zaufaniu, danych i ciągłości procesów, sztuczna inteligencja staje się więc nie tylko narzędziem rozwoju, lecz także nowym obszarem odpowiedzialności.

Banki, firmy ubezpieczeniowe i inne instytucje finansowe od dawna wykorzystują cyfrowe algorytmy do analizy ryzyka, wykrywania nadużyć czy wspierania decyzji inwestycyjnych. Zakres możliwych zastosowań – od przyspieszenia prac programistycznych, przez automatyzację obsługi klienta, po tworzenie spersonalizowanych usług – znacząco rozszerzyła generatywna sztuczna inteligencja. Jednocześnie jednak wiele podmiotów zmaga się ze zjawiskiem określanym jako shadow AI, czyli wykorzystywaniem narzędzi bazujących na AI poza formalnym nadzorem i obowiązującymi procedurami bezpieczeństwa.

– W sektorze finansowym wyzwanie to ma szczególny wymiar. Instytucje muszą wiedzieć, kto korzysta z narzędzi AI, jakie dane są do nich przekazywane oraz czy wykorzystywane modele spełniają wymagania dotyczące bezpieczeństwa, ochrony danych  i zgodności z regulacjami. Dodatkowo są zobowiązane do uwzględniania wymagań wynikających m.in. z DORA, AI Act, NIS2 i RODO, w zakresie, w jakim regulacje te mają zastosowanie. Zwiększa to znaczenie odporności operacyjnej, ochrony przetwarzanych informacji oraz skutecznego zarządzania ryzykiem technologicznym – tłumaczy Joanna Chmielak, Enterprise Sales Manager w firmie Fortinet.

AI wymaga nadzoru, a nie tylko polityki bezpieczeństwa

Do niedawna bezpieczeństwo sztucznej inteligencji kojarzyło się przede wszystkim z ochroną danych wprowadzanych do modeli. Obecnie zakres odpowiedzialności firm jest znacznie szerszy i obejmuje cały cykl życia rozwiązań AI – od identyfikowania miejsc ich wykorzystania, przez monitorowanie ruchu oraz komunikacji z modelami i interfejsami API, po kontrolę dostawców poszczególnych rozwiązań i egzekwowanie jednolitych zasad przetwarzania danych w całej firmie. Kluczowe staje się więc ustalenie, gdzie i w jaki sposób AI jest wykorzystywana, jakie dane są przez nią przetwarzane oraz z jakimi systemami i usługami nawiązuje kontakt. Bez tej wiedzy trudno skutecznie zarządzać ryzykiem i spełniać wymagania regulacyjne.

– Jeszcze dwa lata temu większość rozmów o sztucznej inteligencji koncentrowała się na produktywności i możliwościach wykorzystania nowych narzędzi. Teraz klienci pytają przede wszystkim o kwestie operacyjne: jak uzyskać pełną widoczność jej wykorzystywania, chronić dane przetwarzane przez modele, zabezpieczać środowiska, w których działają obciążenia AI oraz jak pogodzić rozwój nowych usług z wymaganiami dotyczącymi odporności operacyjnej i suwerenności danych – mówi Joanna Chmielak z Fortinet.

Jednym z najczęstszych błędów jest traktowanie sztucznej inteligencji jako odrębnego rozwiązania, które można zabezpieczyć niezależnie od reszty środowiska IT. Tymczasem modele AI korzystają z tych samych systemów tożsamości, sieci, danych i aplikacji biznesowych, które odpowiadają za funkcjonowanie całej firmy. Jeżeli polityka bezpieczeństwa, kontrola dostępu czy monitorowanie ruchu pozostają rozproszone pomiędzy różnymi narzędziami, AI jedynie uwidacznia istniejące słabości architektury. Dlatego bezpieczeństwo sztucznej inteligencji powinno być projektowane jako integralna część całego środowiska, a nie kolejny, odizolowany komponent.

AI pod presją cyberprzestępców

Wraz z upowszechnianiem się sztucznej inteligencji znacząco rośnie powierzchnia potencjalnego ataku. Administratorzy muszą kontrolować nie tylko użytkowników i urządzenia, ale również modele AI, aplikacje korzystające z dużych modeli językowych, interfejsy API oraz dane przekazywane pomiędzy poszczególnymi komponentami. Bez bieżącego monitorowania tych procesów trudno wykrywać nieautoryzowane wykorzystanie AI, egzekwować polityki bezpieczeństwa czy skutecznie chronić informacje przed wyciekiem.

Nowe możliwości biznesowe idą w parze z nowymi metodami działania cyberprzestępców. Coraz większego znaczenia nabierają próby zatruwania modeli (AI model poisoning), ataki wykorzystujące generatywną AI do przygotowywania wiarygodnych kampanii phishingowych czy oszustwa bazujące na technologii deepfake. Skala tych ostatnich rośnie szczególnie szybko – według raportu firmy Pindrop, liczba prób manipulacji z użyciem fałszywych nagrań audio i wideo wzrosła w 2024 roku aż o 1300 proc.

Osobne badanie przeprowadzone przez Anthropic, UK AI Security Institute i Alan Turing Institute pokazało z kolei, że już 250 złośliwie przygotowanych dokumentów może wystarczyć do skutecznego zatrucia danych treningowych i wprowadzenia podatności typu backdoor do dużego modelu językowego. Dlatego bezpieczeństwo AI powinno obejmować zarówno ochronę danych wejściowych, jak i kontrolę jakości informacji wykorzystywanych przez modele.

Od eksperymentów do odporności przedsiębiorstw

Rosnące ryzyko nie oznacza jednak, że AI jest wyłącznie źródłem nowych zagrożeń. Coraz więcej instytucji wykorzystuje ją również do automatyzacji analizy zdarzeń, wykrywania anomalii czy reagowania na incydenty. Jednocześnie wraz z adopcją AI rośnie liczba zewnętrznych usług i dostawców, od których zależy środowisko technologiczne banku. Ma to szczególne znaczenie w sektorze, w którym, według raportu SecurityScorecard, aż 96 proc. spośród 100 największych instytucji finansowych w Europie odnotowało naruszenie bezpieczeństwa w swoim ekosystemie zewnętrznych dostawców. Każde kolejne rozwiązanie AI udostępniane w chmurze lub poprzez API powinno być więc objęte taką samą oceną ryzyka i monitoringiem jak inne krytyczne usługi technologiczne.

– Wartość sztucznej inteligencji nie powinna być oceniana wyłącznie przez pryzmat wzrostu efektywności. Dla zarządów coraz ważniejsze staje się pytanie, czy AI zwiększa odporność na zakłócenia, pozwala szybciej wykrywać zagrożenia i pomaga utrzymać ciągłość działania. Granica między ryzykiem biznesowym a technicznym coraz bardziej się zaciera, dlatego odpowiedzialność w tym obszarze nie może spoczywać wyłącznie na zespołach IT czy cyberbezpieczeństwa. To element strategii całego przedsiębiorstwa, który wymaga współpracy zarządu, działów biznesowych oraz specjalistów od ochrony cyfrowych środowisk – podsumowuje Joanna Chmielak z Fortinet.

Branża finansowa od lat należy do liderów wykorzystania nowych technologii, dlatego rozwój i wdrażanie sztucznej inteligencji przebiega w niej wyjątkowo szybko. W kolejnych latach przewagę zyskają jednak nie te organizacje, które wdrożą największą liczbę narzędzi AI, ale te, które potrafią skutecznie nimi zarządzać oraz zapewnić bezpieczeństwo i przejrzystość  związanych z nimi procesów. Dotyczy to zarówno spełniania wymagań regulacyjnych, jak i budowania zaufania klientów, partnerów biznesowych oraz rynku.

Obserwuj nas na Google News

Zobacz również:

• Koniec z dźwiganiem zgrzewek wody? Sprawdzam Hydrofast W100 z odwróconą osmozą
• Test JIMMY R9: Rewolucyjny oczyszczacz wody z odwróconą osmozą bez montażu. Czy warto go kupić?
• System Bezpieczeństwa eufy PoE NVR S4 Max: Monitoring Kompleksowy Garaży, Magazynów i Parkingów
• Laserowe kino z plecaka? Test ETOE Dolphin 2 z Google TV! (test i opinia)