Hvordan kan vi lovgive om, at de folk der laver algoritmer, skal stå til ansvar når deres computerprogrammer træffer diskriminerende beslutninger?
Det er et meget vigtigt spørgsmål i en digital verden. For at sikre at algoritmer ikke diskriminerer, arbejder eksperter og politikere på at skabe nye regler. Et af de vigtigste værktøjer er krav om gennemsigtighed. Det betyder at virksomheder skal kunne forklare, hvordan deres systemer kommer frem til en bestemt beslutning. Hvis en algoritme fravælger en ansøger eller en låneansøger på et uretfærdigt grundlag, skal der være en klar proces for at finde fejlen.
En anden løsning er at indføre krav om ordentlig testning. Udviklere bør forpligtes til at tjekke deres data for historiske skævheder, før de bruger dem til at træne en algoritme. Man kan også indføre juridisk ansvar, så det bliver tydeligt, hvem der bærer skylden, hvis teknologien bryder loven om ligestilling. Det kan være enten det firma der bruger teknologien eller dem der har kodet den. Kort sagt handler det om at flytte fokus fra teknologiens kompleksitet til menneskers rettigheder. Ved at stille krav om dokumentation og regelmæssig kontrol kan vi skabe rammer, der beskytter os alle mod uretfærdige computerbeslutninger.
