Det er et meget relevant spørgsmål. Når man forsøger at fjerne skævheder i data, så kalder man det ofte for at rette bias. Men det er ikke altid så enkelt som blot at trykke på en knap. Udfordringen opstår, fordi man skal beslutte, hvad der er en retfærdig balance.
Hvis man overkompenserer for at rette en historisk uretfærdighed, kan man risikere at skabe det, man kalder omvendt bias. Det betyder, at man ubevidst begynder at favorisere en gruppe for at modvirke en tidligere ulempe. Det kan føles som en form for kunstig manipulation af de oprindelige data, hvilket kan udfordre princippet om objektivitet.
Løsningen handler ikke om at finde en perfekt formel, men om gennemsigtighed. Når man arbejder med algoritmer og data, er det vigtigt at være åben om, hvilke valg man har truffet. Man skal altid veje ønsket om retfærdighed op mod vigtigheden af præcision. Målet er at skabe systemer, der er så fair som muligt, uden at man ender med at skævvride virkeligheden på en ny og problematisk måde.
