Når AI-agenter opererer uden direkte menneskelig kontrol, rammer vi en mur af juridisk usikkerhed. Lige nu hviler ansvaret stadig på de juridiske personer bag teknologien. Det betyder, at virksomheder og ejere bærer det fulde ansvar for de økonomiske tab eller juridiske fejl, en algoritme begår. Vi ser i øjeblikket på EU's AI Act, som forsøger at placere ansvar ved at kategorisere systemer efter deres risikoniveau.
Juridisk set er spørgsmålet om 'agentur' centralt. Kan en maskine bære et ansvar, eller er den blot et avanceret værktøj? Hvis en agent foretager en transaktion, der bryder med gældende finansiel lovgivning, er det ejeren, der står til regnskab over for myndighederne. Der findes ingen "AI-personlighed", der kan sagsøges eller straffes.
Etisk kræver det gennemsigtighed. Vi kan ikke nøjes med at vide, *at* en beslutning er truffet, men vi skal forstå *hvorfor*. Det kaldes forklarlighed. Hvis en agent afviser et lån eller indgår en kontrakt, skal beslutningsgrundlaget kunne efterprøves af et menneske. Uden denne indsigt risikerer vi en total mangel på ansvarlighed, hvor systemiske fejl i algoritmer kan skabe økonomisk ustabilitet uden en klar vej til genopretning.
