25 czerwca 2025 r. w Warszawie, wspólnie ze Związkiem Banków Polskich, mieliśmy przyjemność współorganizować kolejne Śniadanie Technologiczne Forum Technologii Bankowych. Tym razem tematem spotkania było AI Governance w kontekście nadchodzących regulacji, takich jak unijny AI Act, oraz praktyczne podejście do zarządzania systemami opartymi na sztucznej inteligencji w sektorze finansowym.
Zarządzanie sztuczną inteligencją w sposób bezpieczny, transparentny i zgodny z regulacjami staje się dla banków i instytucji finansowych koniecznością. W obliczu rosnącej skali wdrożeń rozwiązań AI, takich jak modele predykcyjne czy LLM, pojawiają się pytania:
Jak zapewnić zgodność z AI Act?
Jak kontrolować ryzyka związane z automatyzacją decyzji?
W jaki sposób wdrażać AI odpowiedzialnie, nie blokując innowacji?
Właśnie na te zagadnienia odpowiedzieliśmy podczas spotkania – zarówno w części merytorycznej, jak i demonstracyjnej.
Praktyczne podejście do zgodności z AI Act
Jednym z głównych tematów było AI Act, czyli nadchodzące unijne rozporządzenie dotyczące sztucznej inteligencji. Jak zauważył nasz CEO – Krzysztof Goworek, AI podobnie jak technologie kosmiczne – wymaga zaawansowanego monitorowania, a w bankowości nie ma miejsca na błędy. Przejrzystość, bezpieczeństwo i zgodność z prawem są absolutnym priorytetem.
Krzysztof podkreślił również, że AI Act może stać się katalizatorem bezpiecznych innowacji, zamiast być tylko ograniczeniem. Uczestnicy zgodzili się, że jednolita regulacja na poziomie UE wyrównuje szanse konkurencji, choć wyrażono obawy o tzw. gold-plating – ryzyko nadinterpretacji przepisów przez krajowych regulatorów.
Krzysztof podkeślał, że AI Act nie musi oznaczać ograniczeń – może być impulsem do uporządkowania procesów i zwiększenia zaufania do technologii AI, zarówno wśród klientów, jak i regulatorów.
Chciałbym postawić tezę, że fakt, iż w Europie mamy AI Act i podchodzimy do sztucznej inteligencji inaczej niż Stany Zjednoczone czy Chiny, nie musi być hamulcem. Wręcz przeciwnie — może to być nasza przewaga, która napędza bezpieczną i zrównoważoną innowację Krzysztof Goworek CEO, TUATARA
W trakcie dyskusji poruszono także praktyczne wyzwania, takie jak Shadow AI – przypadki wykorzystywania narzędzi AI (np. ChatGPT) przez pracowników bez wiedzy organizacji, co może wiązać się z ryzykiem wycieku danych. Równie niebezpieczne są przypadki embedded AI, czyli systemów AI ukrytych np. w infrastrukturze technicznej, które mogą umknąć regulacjom i audytowi.
watsonx.governance – narzędzie do skutecznego zarządzania cyklem życia AI
W drugiej części spotkania Michał Trzęsiok, IBM Technical Specialist, zaprezentował platformę IBM watsonx.governance – rozwiązanie wspierające kompleksowe zarządzanie systemami AI w organizacjach. Platforma obejmuje pełen cykl życia AI: od definiowania przypadków użycia, przez ocenę ryzyka i zgodność regulacyjną, aż po monitoring działania modeli i przygotowanie do audytu.
IBM watsonx.governance została zaprojektowana z myślą o instytucjach działających w silnie regulowanych sektorach – takich jak bankowość czy ubezpieczenia – które muszą wykazać pełną kontrolę nad wdrażanymi rozwiązaniami AI.
Najważniejsze funkcje i możliwości platformy to:
Tworzenie i zarządzanie przypadkami użycia AI (AI use cases): Każdy projekt AI traktowany jest jako oddzielny przypadek użycia, z przypisanymi rolami, odpowiedzialnościami i dokumentacją na każdym etapie.
Ocena ryzyk prawnych, etycznych i operacyjnych: Z pomocą narzędzia Risk Atlas użytkownicy identyfikują potencjalne zagrożenia związane z danym rozwiązaniem – od ryzyka biasu, przez drift danych, aż po ryzyka społeczne i reputacyjne.
Zgodność z regulacjami (AI Act, KNF, polityki wewnętrzne): Wbudowane formularze i ścieżki decyzyjne umożliwiają sprawdzenie, czy projekt nie narusza przepisów, a także automatyczne klasyfikowanie przypadków jako wysokiego ryzyka, zgodnie z AI Act.
Monitoring jakości modeli i działania systemu: Platforma rejestruje metryki jakości, śledzi zmiany w danych wejściowych (data drift), detekuje potencjalne błędy generatywne (np. halucynacje modeli LLM), a także mierzy zgodność z kryteriami uczciwości (bias/fairness).
Automatyczna dokumentacja i ścieżka audytowa (AI Fact Sheet): Każdy projekt AI posiada własny zestaw dokumentów zawierający historię decyzji, dane treningowe, wyniki testów i listę osób odpowiedzialnych. To istotne wsparcie przy kontrolach zewnętrznych i wewnętrznych.
Przyjazny interfejs dla biznesu: Dzięki tzw. kokpitowi menedżerskiemu, użytkownicy biznesowi mogą nadzorować przebieg projektów bez potrzeby angażowania się w aspekty techniczne – całość dostępna jest bez konieczności kodowania.
Prezentacja pokazała, jak platforma IBM może pomóc instytucjom finansowym nie tylko spełniać wymagania regulacyjne, ale też skutecznie zarządzać ryzykiem i budować zaufanie do wykorzystywanych systemów AI – zarówno w organizacji, jak i na zewnątrz.
Jak odpowiedzialnie budować przyszłość AI w finansach?
Śniadanie Technologiczne poświęcone AI Governance pokazało, że sektor bankowy w Polsce nie tylko rozumie wagę nadchodzących regulacji, ale również aktywnie szuka sposobów, by przekuć je w realną przewagę konkurencyjną. Wśród uczestników dało się wyczuć wspólne przekonanie, że nadchodzące zmiany – choć wymagające – mogą wzmocnić zaufanie do rozwiązań opartych na sztucznej inteligencji, zarówno wewnątrz organizacji, jak i w oczach klientów oraz regulatorów.
Szczególnie istotne było podkreślenie, że odpowiedzialne wdrażanie AI to nie jednorazowy projekt, lecz ciągły proces – wymagający jasnych ról, stałego monitorowania oraz narzędzi wspierających zgodność z dynamicznie zmieniającym się otoczeniem prawnym. Rozwiązania takie jak watsonx.governance umożliwiają instytucjom finansowym nie tylko spełnianie wymogów AI Act, ale także efektywne zarządzanie ryzykiem i zwiększanie transparentności wdrażanych systemów.
Dyskusje toczące się w trakcie wydarzenia – od klasyfikacji ryzyka, przez tzw. shadow AI, po kwestie etyczne – potwierdziły, że bankowość potrzebuje dziś nie tylko technologii, ale przede wszystkim kompetencji, procesów i kultury gotowej na odpowiedzialną automatyzację.
Jedno jest pewne: w obliczu rosnącej roli AI w finansach, to właśnie sposób, w jaki zarządzamy tą technologią, zdecyduje o jej realnej wartości dla biznesu i klientów.
W TUATARA pomagamy instytucjom finansowym przełożyć zasady AI Governance na konkretne działania – zgodne z regulacjami, skalowalne i osadzone w realiach biznesu. Jeśli ten temat jest istotny także w Twojej organizacji i szukasz partnera, który łączy wiedzę technologiczną z doświadczeniem branżowym – zapraszamy do kontaktu.
