Når AI-agenter interagerer med offentlige datasystemer, opstår der et komplekst ansvarsspørgsmål. Det er ikke altid tydeligt, om fejlen ligger hos den offentlige myndighed, der har implementeret teknologien, eller hos OpenAI som leverandør. For at beskytte de svageste borgere bør vi bevæge os væk fra langsommelige retssager og hen imod en model med objektivt ansvar (strict liability).
Det betyder, at borgeren ikke skal bevise, at der er sket en menneskelig fejl eller uagtsomhed. Det er nok at påvise, at AI-agentens beslutning førte til et økonomisk tab eller en væsentlig rettighedskrænkelse. Vi kan med fordel skele til de principper, der findes i EU's AI Act og det kommende AI Liability Directive. Her lægges der op til en lettere bevisbyrde for skadelidte.
En praktisk løsning kunne være en obligatorisk ansvarsforsikring for alle leverandører af kritiske AI-systemer. Hvis en algoritme laver en fejl i en sagsbehandling, skal der findes en hurtig klageinstans, som kan udbetale erstatning uden om det almindelige retssystem. Det handler om at skabe et sikkerhedsnet, hvor borgerens retssikkerhed vægtes højere end teknologisk kompleksitet.
