Spørgsmålet om ansvarsfordeling i forbindelse med AI er et centralt element i den kommende regulering, herunder særligt EU's AI-forordning (AI Act) og det foreslåede AI-ansvarsdirektiv. Lovgivningen arbejder med at skabe en klar differentiering baseret på systemets risikoniveau og brugerens kontrol over teknologien.
Udviklerens ansvar vil primært være knyttet til produktansvar. Hvis en skade skyldes mangelfuld træningsdata, systemiske bias eller manglende overholdelse af sikkerhedsstandarder under udviklingen, vil ansvaret ligge hos producenten eller udbyderen. Her fokuseres der på, om systemet er blevet udviklet efter de lovmæssige krav om gennemsigtighed og robusthed.
Slutbrugerens ansvar vil derimod afhænge af anvendelsen. Hvis en bruger benytter et AI-system i strid med dets tilsigtede anvendelsesområde eller ignorerer advarsler og menneskelige tilsynsinstrukser, kan ansvaret skubbes over på brugeren. Lovgivningen lægger op til, at jo mere autonomt et system er, desto større ansvar påhviler udvikleren, mens ansvarligheden for den konkrete beslutningsproces øges hos brugeren, hvis vedkommende har haft mulighed for at overstyre systemet.
