Hvilke juridiske mekanismer skal implementeres for at sikre, at autonome systems uforudsigelighed ikke fritager virksomheder for deres ansvar?
For at sikre, at uforudsigelighed i autonome systemer ikke bliver en juridisk undskyldning, kræves der et skift fra traditionel skyldbaseret ansvar til objektive ansvarsmodeller. Dette indebærer primært indførelsen af strikt ansvar for operatører og producenter af højrisiko-AI. Ved strikt ansvar er virksomheden ansvarlig for skader forårsaget af systemet, uanset om man kan påvise en specifik fejl eller uagtsomhed i programmeringen.
En anden central mekanisme er kravet om omfattende logning og sporbarhed. Virksomheder skal kunne dokumentere systemets beslutningsprocesser gennem tekniske logs. Dette muliggør en rekonstruktion af hændelser, således at det bliver muligt at afgøre, om fejlen skyldes mangelfuld træning af algoritmen eller utilstrækkelig menneskelig overvågning. Desuden spiller certificeringsordninger og standarder for overensstemmelse en stor rolle. Ved at kræve overholdelse af specifikke tekniske standarder, som defineret i f.eks. EU's AI Act, kan man skabe en juridisk ramme, hvor uforudsigelighed betragtes som en indbygget risiko ved teknologien, som virksomheden bærer det økonomiske ansvar for. Dette sikrer, at uforudsigelighed betragtes som en systemisk risiko snarere end en juridisk ansvarsfraskrivelse.
