Hvordan kan virksomheder definere god forsigtighed og minimere juridisk ansvar, når AI-teknologiens uforudsigelige natur gør det svært at kontrollere udfaldet?
Da AI-systemer er iboende probabilistiske og derfor uforudsigelige, kan man ikke eliminere risikoen fuldstændigt. I stedet bør virksomheder implementere en risikobaseret tilgang, der følger anerkendte standarder som ISO/IEC 42001, som er den internationale standard for ledelsessystemer for kunstig intelligens. Ved at følge denne ramme demonstrerer virksomheden, at de har etableret systematiske processer for risikostyring og governance.
For at udvise god forsigtighed bør virksomheder fokusere på tre kerneområder: menneskelig overvågning (Human-in-the-loop), datakvalitet og gennemsigtighed. Det er afgørende, at der altid er et menneske, som kan overstyre AI-beslutninger, især i højrisiko-scenarier. Desuden skal der føres log over systemets beslutningsveje, så fejl kan spores og analyseres bagefter. Juridisk set bør virksomheder også overholde principperne i EU's AI Act, som opstiller specifikke krav til dokumentation, gennemsigtighed og robusthed. Ved at dokumentere grundige konsekvensanalyser (DPIA) og teste systemerne mod bias og fejl i kontrollerede miljøer, opbygger virksomheden et forsvar for, at de har handlet med den nødvendige omhu, selvom teknologien opererer inden for sine naturlige statistiske usikkerhedsmarginer.
