Det juridiske ansvar for beslutninger truffet via algoritmer følger i udgangspunktet de eksisterende ansvarsregler, men kompleksiteten stiger, når beslutningsprocessen er uigennemsigtig. Når en algoritme fører til diskrimination eller skade, skal ansvaret placeres hos den dataansvarlige myndighed eller den private virksomhed, der har implementeret og anvendt systemet.
Inden for databeskyttelsesretlig ramme (GDPR) er det den dataansvarlige, der bærer det fulde ansvar for, at behandlingen af personoplysninger er lovlig, retfærdig og gennemsigtig. Hvis en algoritme udviser bias, der fører til diskrimination, kan den dataansvarlige blive holdt ansvarlig for overtrædelse af både GDPR og ligebehandlingslovgivningen.
I forhold til produktansvar kan udvikleren af algoritmen i visse tilfælde blive involveret, hvis fejlen skyldes en defekt i selve softwaren. Med den kommende AI Act præciseres ansvarsfordelingen yderligere, især for højrisiko-AI-systemer, hvor der stilles strenge krav til dokumentation, menneskeligt tilsyn og risikostyring. Det er afgørende at forstå, at automatisering ikke fritager den juridiske enhed for ansvar; den juridiske person forbliver ansvarlig for de konsekvenser, som de automatiserede systemer genererer.
