Det er en reel risiko, at de økonomiske gevinster ved AI lander i private hænder, mens de samfundsmæssige omkostninger ved fejl bliver skatteborgernes regning. For at undgå dette scenarie kræves der et fundamentalt skift i, hvordan vi betragter produktansvar i en digital tidsalder.
En løsning er at indføre et strengt objektivt ansvar for udbydere af højrisiko-AI. Det betyder, at hvis en agentisk algoritme foretager en beslutning, der fører til fysisk eller økonomisk skade, hæfter virksomheden uanset skyld. Vi har set lignende mekanismer i miljøret og ved farlig virksomhed. Her skal den, der tjener på risikoen, også bære den.
Derudover bør der stilles krav om obligatoriske ansvarsforsikringer specifikt rettet mod AI-systemer. Dette skaber et direkte incitament for udviklerne til at prioritere sikkerhed frem for hurtig udrulning. Hvis prisen for en fejl stiger markant for virksomheden, vil de naturligt implementere bedre kontrolmekanismer og 'human-in-the-loop' procedurer. Ved at koble det økonomiske ansvar direkte til teknologien fjerner vi det moralske problem med, at offentlige budgetter skal dække for private fejlslutninger.
