Når en bil træffer beslutninger baseret på software frem for en menneskelig fører, rykker ansvaret sig fra føreren til producenten. Det rejser komplekse spørgsmål om, hvorvidt det er en softwarefejl, en uforudset hændelse eller en uundgåelig systemisk fejl, der er skyld i ulykken.
Der er to hovedstrømninger i debatten. Nogle mener, at producenterne skal bære et strengt produktansvar. Hvis algoritmen vælger at ofre én person for at redde fem andre, er det et etisk valg kodet af ingeniører, hvilket placerer det juridiske ansvar direkte hos firmaet. Modstandere af denne tankegang påpeger, at hvis ansvaret bliver for tungt, vil innovationen gå i stå. De argumenterer for, at selvkørende biler samlet set vil reducere antallet af ulykker markant, og at vi må acceptere en vis fejlrate for at opnå denne sikkerhedsgevinst.
Vi antager i denne analyse, at lovgivningen bevæger sig mod en model, hvor producenten forsikrer sig mod systemfejl. I praksis kan det betyde, at ulykker i fremtiden minder mere om fejl ved medicinsk udstyr eller luftfartsteknologi end om traditionelle trafikulykker. Det kræver nye typer forsikringer og en helt ny forståelse af, hvad det vil sige at være
