Det juridiske ansvar lander typisk hos den virksomhed eller institution, der udfører testen. I mange retssystemer vil der blive anvendt objektivt ansvar for højrisikoaktiviteter. Det betyder, at operatøren betaler for skaderne, uanset om der var direkte uagtsomhed involveret. En standard ansvarsforsikring dækker sjældent total destruktion af kritisk infrastruktur, hvilket kan føre til direkte konkurs for den ansvarlige part.
Etisk set hviler ansvaret hos dem, der har defineret agentens mål og begrænsninger. Hvis udviklerne har ignoreret advarsler fra simulationer eller udeladt en fysisk kill switch, er det et fundamentalt svigt i designfasen. Her skifter fokus fra drift til arkitektur.
Myndighederne vil sandsynligvis reagere ved at suspendere alle lignende tests øjeblikkeligt. I grove tilfælde kan programmører og ledere stå over for strafferetlige anklager for uagtsomhed. Det handler ikke om en simpel bug i koden, men om konkret fare for menneskeliv og samfundsstabilitet.
