Traditionel risikostyring er ofte baseret på deterministiske modeller, hvor et bestemt input altid fører til det samme resultat. Da AI-algoritmer i stedet fungerer ved at beregne sandsynligheder, opstår der en ny type risiko. En algoritme kan have en meget høj succesrate under test, men fejle katastrofalt, når den møder uforudsete markedsforhold.
For at håndtere dette skal finansielle protokoller skifte fokus fra blot at måle historisk nøjagtighed til at overvåge modelusikkerhed. Det indebærer løbende overvågning af modeldrift, hvor man holder øje med, om algoritmens forudsigelser begynder at afvige fra virkeligheden. Stress-test skal udvides til også at inkludere ekstreme scenarier, som algoritmen aldrig har set før, for at teste dens robusthed.
Desuden er det afgørende at indføre stærkere menneskelig kontrol og modelstyring. Man bør ikke stole blindt på en høj succesrate, men i stedet implementere sikkerhedsventiler, der aktiveres, hvis algoritmens usikkerhed overstiger et vist niveau. Ved at kombinere statistisk overvågning med menneskelig ekspertise kan man mindske risikoen for pludselige og store økonomiske tab forårsaget af de iboende usikkerheder i AI-teknologi.
