Det er et af de sværeste spørgsmål i moderne krigsret. Når en algoritme begår en fejl, opstår der et såkaldt 'ansvarsgap'. Traditionel krigsret bygger på, at et menneske tager en beslutning. Hvis en maskine derimod selvstændigt fejlidentificerer et mål, er det uklart, hvem der skal stilles til ansvar: programmøren, producenten eller den kommanderende officer.
Lige nu forsøger man at løse det gennem princippet om 'meningsfuld menneskelig kontrol'. Det betyder, at et menneske altid skal have det overordnede ansvar for et angreb. Man kan ikke skyde skylden på koden. Hvis en officer vælger at bruge et autonomt system uden at forstå dets begrænsninger, falder ansvaret på personen. Det er en direkte juridisk linje.
Men hvad med softwarefejl, som ingen kunne forudse? Her støder vi ind i muren. International lov kræver ofte bevis for uagtsomhed eller direkte hensigt. En teknisk fejl i en kompleks algoritme er svær at placere som en bevidst krigsforbrydelse. Derfor arbejdes der på nye standarder for produktansvar, der kan række ud over selve slagmarken og ind i teknologivirksomhedernes bestyrelseslokaler. Det handler om at sikre, at teknologien ikke skaber et juridisk tomrum, hvor civile dør uden at nogen kan holdes ansvarlige.
