Spørgsmålet om ansvar for autonome våbensystemer er et centralt og komplekst emne inden for den internationale humanitære folkeret. Når en drone som Saker Scout træffer beslutninger baseret på algoritmer, opstår der et juridisk tomrum, som kaldes et ansvarshul.
Juridisk set kan man ikke straffe en maskine, da ansvar kræver menneskelig intention og bevidsthed. Derfor fokuserer den juridiske debat primært på to områder. For det første placeres ansvaret hos den menneskelige operatør eller kommandør, hvis vedkommende har givet en ordre, der uundgåeligt fører til krigsforbrydelser. For det andet kan producenten eller softwareudvikleren blive holdt ansvarlig, hvis fejlen skyldes uagtsomhed i programmeringen eller manglende sikkerhedsforanstaltninger.
Det er essentielt, at der altid er en form for meningsfuld menneskelig kontrol over de beslutninger, der påvirker liv og død. Uden denne kontrol bliver det svært at håndhæve eksisterende krigsforbryderlove. Udviklingen af internationale normer arbejder i øjeblikket på at præcisere, hvordan kommandoansvar skal fortolkes, når autonome systemer integreres i moderne krigsførelse.
