Når vi opdager bias eller skævheder i en algoritme, træder en række tekniske og organisatoriske mekanismer i kraft for at rette op på fejlen. Det første skridt er typisk en grundig datarensning. Det betyder, at vi gennemgår de data, som algoritmen har lært fra, for at se om bestemte grupper er underrepræsenteret eller fejlagtigt repræsenteret.
Vi bruger også matematiske metoder til at justere selve modellen. Dette kan indebære at ændre på vægtningen af visse parametre, så algoritmen ikke lægger uforholdsmæssig stor vægt på faktorer, der fører til diskrimination. Vi kan også implementere kontrolmekanismer, som løbende overvåger modellens output for at sikre, at den forbliver retfærdig over tid.
Udover de tekniske løsninger arbejder vi med menneskelig kontrol. Det indebærer, at eksperter gennemgår de vigtigste beslutninger, som algoritmen træffer. Ved at kombinere avanceret matematik med menneskelig dømmekraft skaber vi en sikkerhedsmekanisme, der fanger fejl, før de får konsekvenser for brugerne. Målet er altid at skabe et system, der er både præcist og retfærdigt for alle typer mennesker.
