Det nuværende retssystem er bygget på menneskelige beslutninger, hvilket skaber et vakuum, når algoritmer agerer selvstændigt. Når en AI-agent i et elnet eller et vandværk laver en fatal fejl, kan vi ikke blot sagsøge softwaren. Ansvaret skal findes hos de aktører, der har kontrolleret systemets implementering og risikoprofil.
I praksis vil ansvaret typisk blive fordelt mellem tre parter. Først er der udvikleren, hvis kode eller træningsdata indeholder fundamentale fejl. Dern er der operatøren, som har valgt at overlade kontrollen til systemet uden tilstrækkelige sikkerhedsforanstaltninger eller menneskelig overvågning (human-in-the-loop). Endelig spiller ejeren af infrastrukturen en rolle, hvis vedligeholdelsen eller de rammer, systemet opererer under, er mangelfulde.
Vi bevæger os mod en model med strengt produktansvar. Det betyder, at hvis et system er
