Ansvarsfordelingen ved diskrimination via AI er kompleks, men udgangspunktet er, at ansvaret ofte deles mellem leverandøren og brugeren. Den virksomhed, der anvender teknologien til at træffe beslutninger om f.eks. ansættelse eller kreditvurdering, bærer typisk det primære ansvar over for de berørte personer og tilsynsmyndighederne.
Når en virksomhed implementerer et AI-værktøj, har den en pligt til at sikre, at værktøjet overholder gældende lovgivning, herunder diskriminationslovgivningen. Dette indebærer, at man som bruger skal føre tilsyn med systemets output og sikre, at man ikke ukritisk følger algoritmiske anbefalinger, der kan virke diskriminerende.
Softwareproducenten kan dog blive erstatningsansvarlig, hvis fejlen skyldes mangelfuld udvikling eller manglende oplysning om systemets begrænsninger. Det er derfor afgørende, at der i kontrakten mellem leverandør og kunde er klare rammer for ansvarsfordelingen, samt at der foretages løbende risikovurderinger af de anvendte algoritmer.
