Det juridiske problem opstår, fordi traditionel krigsret hviler på menneskelige beslutninger. Når en algoritme begår en fejl, opstår et såkaldt 'ansvarsgap'. Man kan ikke retsforfølge en linje kode, og det er svært at placere et strafferetligt ansvar hos en programmør, der blot har skrevet softwaren år før, den blev taget i brug i en krigszone.
Løsningen kræver en ny fortolkning af kommandovej og produktansvar. International lovgivning arbejder i øjeblikket med at fastholde det personlige ansvar hos den militære leder. Hvis en officer vælger at indsætte et autonomt system, bærer vedkommende ansvaret for systemets handlinger, præcis som man ville gøre med et fejlbehæftet radar-system eller en anden teknologi. Det kræver dog, at lederen har haft reel mulighed for at forstå og kontrollere systemets output.
Derudover kigger man på producentens ansvar. Hvis fejlen skyldes en fundamental programmeringsfejl eller mangelfuld træning af algoritmen, kan ansvaret flytte sig fra slagmarken til virksomheden bag teknologien. Det er dog en juridisk svær vej at gå, da statslige interesser ofte beskytter våbenproducenter. Fremtiden peger mod strengere krav om 'menneskelig kontrol', hvor ansvaret aldrig må udvandes gennem automatisering.
