Det er et komplekst spørgsmål, men det korte svar er, at ansvaret ofte er delt mellem flere parter. Juridisk set er det typisk den virksomhed, der anvender teknologien og træffer beslutninger baseret på algoritmen, som står med det primære ansvar over for borgeren eller kunden.
Hvis en algoritme udviser diskrimination, kigger man på hele værdikæden. Udvikleren har et etisk og professionelt ansvar for at teste systemet for skævheder i koden. Dataleverandøren har ansvaret for, at de data, de leverer, er repræsentative og fri for historisk bias. Men selvom fejlen ligger i data eller kode, er det den virksomhed, der implementerer løsningen, som skal sikre, at deres brug af teknologien overholder lovgivningen, herunder regler om ligebehandling.
I praksis betyder det, at virksomheder bør lave grundige konsekvensanalyser, før de tager nye systemer i brug. Man kan ikke bare skyde skylden på teknologien eller en underleverandør, hvis man selv har valgt at bruge et system, der ikke er blevet testet tilstrækkeligt for bias.
