For at sikre, at kunstig intelligens er retfærdig, skal vi først forstå, at AI lærer af de data, vi giver den. Hvis dataene kun indeholder information fra én del af verden, bliver modellen skæv eller biased. Det betyder, at den ikke forstår globale minoriteter ordentligt.
Man kan måle dette teknisk ved at bruge statistiske metoder. Man undersøger for eksempel, om modellen giver forskellige resultater for forskellige grupper, selvom de burde behandles ens. Dette kaldes ofte for fairness metrics. Hvis man ser en stor forskel i nøjagtighed mellem en majoritetsgruppe og en minoritetsgruppe, har man fundet en bias.
For at modvirke dette kan man bruge flere metoder. For det første kan man sikre sig, at træningsdataene er mere varierede og repræsentative. For det andet kan man bruge algoritmer, der aktivt straffer uretfærdige mønstre under træningen. Man kan også efterprøve modellen med specifikke testsæt, der fokuserer på underrepræsenterede kulturer. Ved løbende at måle og justere disse faktorer, kan man skabe teknologier, der fungerer godt for alle mennesker uanset deres kulturelle baggrund.
