Problemet med 'rogue AI' som juridisk undskyldning bunder i, at virksomheder forsøger at omdefinere systemfejl som uforudsigelige naturkræfter. For at modvirke dette kræves der en præcis lovgivningsmæssig ramme, der flytter fokus fra modellens 'adfærd' til producentens kontrol.
For det første bør man indføre et strengt objektivt ansvar (strict liability) for udviklere af højrisiko-AI. Det betyder, at hvis et system forårsager skade, hæfter producenten uanset om de hævder, at fejlen var uforudsigelig. Man kan ikke blot kalde en fejl for en 'sort svane', hvis fejlen skyldes mangelfuld træningsdata eller utilstrækkelige sikkerhedslag.
Dernæst er det nødvendigt med obligatoriske tekniske standarder og auditeringer under tilsyn af myndigheder. Hvis en virksomhed kan dokumentere, at de har fulgt de nyeste ISO-standarder for AI-sikkerhed og gennemført omfattende 'red-teaming', står de stærkere. Men hvis de har ignoreret kendte sårbarheder i deres arkitektur, holder argumentet om en autonom 'rogue' agent ikke i retten.
Slutteligt kan man kræve 'explainability' (forklarlighed) som et juridisk krav. Hvis en aktør ikke kan redegøre for, hvorfor et system traf en specifik beslutning, bør det juridiske ansvar automatisk tilfalde producenten. Det fjerner incitamentet til at bruge kompleksitet som et skjold mod erstatningsansvar.
