At bekæmpe bias kræver en kombination af matematiske tjek og grundig menneskelig kontrol. Man kan ikke blot stole på, at koden er retfærdig, blot fordi den er objektiv i sin natur. Der findes i dag flere konkrete metoder til at måle og afbøde skævheder i data og modeller.
Inden for den tekniske værktøjskasse finder vi open-source biblioteker som AIF360 fra IBM eller Fairlearn fra Microsoft. Disse værktøjer gør det muligt at identificere uligheder i modellens forudsigelser, f.eks. hvis en algoritme systematisk vurderer bestemte postnumre eller køn lavere end andre. Man kan måle parametre som 'demografisk paritet' eller 'lige muligheder' for at se, om systemet diskriminerer i praksis.
Men software alene løser intet. Revisionsmetoder som Algorithmic Impact Assessments (AIA) er nødvendige. Her gennemgår man systemets konsekvenser, før det tages i brug. Man kigger på datakilderne: Er de historiske data præget af tidligere tiders diskrimination? Hvis du træner en model på data fra et skævt samfund, vil algoritmen blot kopiere fortidens fejl. Derfor er tværfaglig revision, hvor sociologer og etikere inddrages, ofte mere effektiv end ren kodetjek.
