Hvilke konkrete metoder kan virksomheder anvende til at identificere og eliminere indbyggede bias i algoritmer før implementering i rekruttering?

At fjerne bias kræver en systematisk tilgang, der starter længe før den første kodelinje skrives. Det handler ikke kun om matematik, men i høj grad om de data, man fodrer maskinen med. Hvis historiske ansættelsesdata viser en overrepræsentation af mænd i lederstillinger, vil algoritmen blot lære at kopiere denne ulighed. Derfor skal man først og fremmest foretage en grundig audit af træningsdata for at finde skjulte mønstre, der favoriserer specifikke demografier.

Under selve udviklingen bør man benytte tekniske værktøjer til 'fairness metrics'. Man kan teste modellen mod forskellige test-datasæt for at se, om den leverer forskellige resultater for identiske profiler med forskelligt køn eller etnicitet. Det er en praktisk metode til at måle bias direkte. Man bør også overveje 'adversarial debiasing', hvor en anden algoritme forsøger at gætte de beskyttede karakteristika ud fra modellens output; hvis den kan det, er modellen stadig biased.

Sidst, men ikke mindst, må man inddrage diverse teams i testfasen. Algoritmer er menneskeskabte, og udviklernes egne ubevidste fordomme kan snige sig ind i de parametre, de vælger at vægte højt. En løbende kontrolmekanisme er nødvendig, da bias kan opstå over tid, efterhjulet er sat i gang.