Når man træner en AI, er det vigtigt at sikre, at dataene ikke er skæve eller uretfærdige. Hvis dataene indeholder historiske fordomme, vil AI-modellen blot lære og gentage disse fejl. For at undgå dette kan virksomheder bruge flere tekniske metoder.
En af de mest almindelige metoder er statistisk analyse. Her kigger man på fordelingen af forskellige kategorier i datasættet for at se, om nogle grupper er underrepræsenterede. Hvis man opdager en ubalance, kan man bruge teknikker som oversampling, hvor man tilføjer flere eksempler fra den underrepræsenterede gruppe, eller undersampling, hvor man reducerer antallet af eksempler fra den dominerende gruppe for at skabe ligevægt.
Man kan også anvende matematiske algoritmer, der er designet til at måle retfærdighed, såsom fairness metrics. Disse værktøjer beregner, om modellen præsterer dårligere for bestemte grupper. Derudover kan man bruge syntetisk datagenerering til at udfylde de huller, hvor der mangler information. Ved at kombinere disse metoder kan virksomheder skabe mere pålidelige og retfærdige AI-systemer, der fungerer korrekt for alle brugere.
