Når man arbejder med AI, er det vigtigt at sikre, at de data man bruger, ikke indeholder fordomme eller skævheder, som vi kalder bias. For at finde disse fejl inden modellen er færdig, bruger man ofte statistiske metoder. En almindelig teknik er at lave en fordelingsoversigt, hvor man undersøger, om bestemte grupper er underrepræsenterede i datasættet.
Der findes flere tekniske måder at rette op på det. En metode kaldes re-weighting, hvor man giver mere vægt til de data, der er sjældne, så de får en større betydning for modellen. En anden metode er re-sampling, hvor man enten fjerner overskydende data eller tilføjer flere eksempler fra de underrepræsenterede grupper for at skabe balance.
Man kan også bruge algoritmer som Adversarial Debiasing. Her træner man to modeller mod hinanden, hvor den ene forsøger at forudsige en følsom egenskab, som man vil undgå, mens den anden prøver at gøre det umuligt for den første. Ved at bruge disse værktøjer kan man opbygge en mere retfærdig AI, der ikke reproducerer menneskelige fordomme fra de oprindelige data.
