Når vi udvikler AI-systemer, er der en risiko for, at algoritmerne blot spejler flertallets præferencer eller historiske skævheder. For at beskytte minoriteter skal vi indbygge specifikke tekniske kontrolmekanismer direkte i systemets arkitektur. Dette indebærer flere lag af sikkerhed.
For det første kan man bruge matematiske retfærdighedsmetrikker, som man tester under træningen af modellen. I stedet for kun at optimere efter den højeste præcision for den brede masse, kan man programmere systemet til at sikre en retfærdig fordeling af fejltyper på tværs af forskellige demografiske grupper. Dette kaldes ofte for fairness constraints.
For det andet er det vigtigt med løbende monitorering og auditering. Det betyder, at man indbygger værktøjer, der automatisk giver alarm, hvis systemets beslutninger begynder at ramme minoriteter uforholdsmæssigt hårdt. Ved at bruge teknikker som bias detection kan man opdage skævheder, før de forårsager reel skade. Ved altid at inkludere repræsentative datasæt og teste for bias i selve algoritmen, skaber vi et fundament, hvor teknologien ikke bare følger flertallet, men også respekterer de enkelte individers rettigheder.
