Det korte svar er, at retssystemet bevæger sig væk fra at lede efter en enkelt skyldig person og i stedet kigger på hele værdikæden. Når en AI-agent agerer uden direkte menneskelig kontrol, opstår et såkaldt 'ansvarsgap'. Det betyder, at traditionelle regler om uagtsomhed bliver svære at anvende, da ingen nødvendigvis har ønsket den specifikke fejl.
I praksis arbejder man med forskellige ansvarsmodeller. Udvikleren kan drages til ansvar, hvis selve koden eller træningsdataene (dataset) indeholder fundamentale fejl. Operatøren eller ejeren af systemet bærer ofte et objektivt ansvar, hvilket betyder, at de hæfter for skader, uanset om de har gjort noget forkert eller ej. Det svarer lidt til ansvaret for en hund, der bider nogen; du ejer dyret, så du bærer risikoen.
EU's kommende AI Act og det foreslåede AI Liability Directive forsøger at lukke de huller, som teknologien skaber. De lægger op til, at gennemsigtighed i algoritmerne (explainability) bliver et krav. Hvis en aktør ikke kan forklare, hvordan agenten nåede frem til en beslutning, står de juridisk svagt. Ansvaret bliver dermed en fordeling mellem dem, der har designet logikken, og dem, der har sat systemet i drift i den virkelige verden.
