At designe algoritmer, der er retfærdige, handler i høj grad om at være opmærksom på de data, man fodrer dem med. Historisk bias opstår ofte, fordi de data, vi bruger til at træne kunstig intelligens, afspejler tidligere tiders uligheder i samfundet. Hvis man bare lader maskinen lære frit af disse data, vil den blot gentage de samme mønstre.
En praktisk tilgang er at starte med at undersøge sit datasæt grundigt. Man bør spørge, om visse grupper er underrepræsenteret eller fejlrepræsenteret. Man kan bruge matematiske metoder til at identificere skævheder i data, før man overhovedet begynder at bygge selve modellen.
Under selve udviklingen kan man implementere teknikker som fairness constraints. Det betyder, at man giver algoritmen specifikke regler om, at resultatet skal være retfærdigt på tværs af f.eks. køn eller etnicitet. Det er også vigtigt at teste modellen løbende med forskellige scenarier for at se, om den favoriserer bestemte grupper. Ved at være bevidst om de sociale sammenhænge bag tallene, kan man skabe mere retfærdige tekniske løsninger.
