Organy nadzoru uważnie obserwują tę zmianę. Unijny akt w sprawie sztucznej inteligencji (AI Act), a także dotychczasowe oczekiwania Europejskiego Banku Centralnego (EBC), brytyjskiego Urzędu Regulacji Ostrożnościowej (PRA) i Rezerwy Federalnej, jasno wskazują, że stosowanie AI wymaga zasad zarządzania zapewniających możliwość prześledzenia i wyjaśnienia sposobu działania modeli oraz spójność ich wyników.
AI może automatyzować część zadań związanych z zarządzaniem ryzykiem modeli i usprawniać ich walidację. Jednocześnie modele AI są trudniejsze do testowania, objaśniania i monitorowania, a sposób ich działania może być mniej przejrzysty. Dlatego trzeba dobrze rozumieć ich funkcjonowanie i objąć je odpowiednim nadzorem.
W miarę jak banki przyspieszają wdrażanie AI i uczenia maszynowego, rośnie potrzeba systematycznego nadzoru nad decyzjami podejmowanymi przez algorytmy. Nie chodzi przy tym o tworzenie całkowicie nowych struktur zarządzania, lecz o konsekwentne stosowanie sprawdzonych zasad także do rozwiązań opartych na AI.
Możliwości i ryzyka
AI otwiera nowe możliwości przed zespołami odpowiedzialnymi za walidację. Upraszczając lub automatyzując wybrane zadania związane z walidacją i zarządzaniem ryzykiem modeli, może zwiększać efektywność i niezawodność tych procesów.
Jednocześnie zespoły odpowiedzialne za walidację stają przed nowym wyzwaniem: opracowaniem i wdrożeniem nowych technik walidacji modeli opartych na AI, ponieważ tradycyjne podejścia mogą już nie zapewniać odpowiedniej skuteczności.
Unijny AI Act wprowadza nowe obowiązki w zakresie zgodności, w tym identyfikację systemów AI wysokiego ryzyka i ustanowienie zasad zarządzania nimi. Choć obowiązki te wykraczają poza tradycyjne wymogi zarządzania ryzykiem modeli (Model Risk Management, MRM), nie muszą oznaczać konieczności tworzenia odrębnych ram. Dzięki przemyślanemu dostosowaniu banki mogą zarządzać ryzykami AI, wykorzystując istniejące struktury MRM.
Dostosowanie zarządzania ryzykiem modeli do ryzyk związanych z AI
Większość podstawowych zasad MRM dobrze sprawdza się również w odniesieniu do AI. Zasady zarządzania, walidacja, monitorowanie i dokumentacja już dziś stanowią kluczowe elementy nadzoru nad modelami. Obecne zadanie polega na rozszerzeniu tych praktyk tak, aby uwzględniały specyficzne zachowania i ryzyka modeli AI.
Wspólne zasady: zarówno MRM, jak i zarządzanie AI opierają się na przejrzystości oraz możliwości prześledzenia i wyjaśnienia sposobu działania modeli. Ewidencję modeli można w naturalny sposób rozszerzyć o modele AI, uwzględniając ich zastosowania, kategorie ryzyka, źródła danych oraz ocenę przejrzystości działania. Podstawowe zasady walidacji pozostają niezmienne: poprawność założeń koncepcyjnych, jakość danych i testowanie jakości działania.
Nadzór proporcjonalny do ryzyka: podobnie jak w ramach MRM modele dzieli się na kategorie ryzyka, modele AI można klasyfikować według ich znaczenia dla kluczowych procesów, wrażliwości danych i wpływu na działalność. Dzięki temu algorytmy wysokiego ryzyka, np. wykorzystywane przy podejmowaniu decyzji kredytowych lub ustalaniu cen, podlegają bardziej szczegółowej walidacji i ciągłemu monitorowaniu, natomiast modele niższego ryzyka przechodzą uproszczony przegląd.
Ciągłe monitorowanie i możliwość wyjaśnienia działania modeli: istniejące narzędzia MRM można rozszerzyć o mierniki właściwe dla AI. Pozwalają one śledzić zmiany w rozkładzie danych, wykrywać stronniczość i oceniać zmiany znaczenia poszczególnych cech. Panele służące do raportowania jakości działania modeli mogą uwzględniać wskaźniki pokazujące, na ile zrozumiały jest sposób ich działania, oraz mechanizmy kontroli zgodności z zasadami etycznymi, dostosowane do wymogów unijnego AI Act.
Zintegrowane zarządzanie: komitety odpowiedzialne za zarządzanie AI mogą działać pod nadzorem komitetu ds. ryzyka modeli, co zapewnia spójność zasad, dokumentacji i działań naprawczych. Taka integracja zapobiega rozdrobnieniu struktur i podkreśla, że ryzyko związane z AI jest jednym z rodzajów ryzyka modeli, dlatego powinno podlegać równie wnikliwej kontroli i tym samym zasadom odpowiedzialności.
Wykorzystując ugruntowane ramy MRM, banki mogą spełniać nowe wymogi regulacyjne dotyczące AI, unikając powielania działań i dbając o to, by rozwój innowacji szedł w parze z rozwojem mechanizmów kontrolnych.
Kierunek dalszego rozwoju
AI zmienia sposób działania modeli i metody ich walidacji, ale nie zmienia podstawowego celu MRM: zapewnienia, że modele wspierające podejmowanie decyzji są poprawne, ich działanie można wyjaśnić, a one same pozostają pod odpowiednią kontrolą. Banki, które dostosują istniejące ramy, mogą spełnić wymogi unijnego AI Act i innych powstających regulacji, a jednocześnie wyposażyć zespoły walidacyjne w narzędzia potrzebne do oceny bardziej złożonych modeli.
Przewagę zyskają instytucje, które potraktują AI jako rozszerzenie dotychczas wykorzystywanych modeli, a nie odrębną dziedzinę. Dzięki sprawdzonym kompetencjom w zarządzaniu ryzykiem modeli będą mogły wspierać bezpieczne wdrażanie innowacji na szeroką skalę.
Tekst oryginalny pochodzi ze strony: Rethinking model risk management as AI reshapes banking
Autorzy: Dwayne Price, Jonathan Fitzpatrick, Lukas Majer, Mark Perry