Hvordan kan vi egentlig definere og måle retfærdighed i AI, når folk i forskellige kulturer ser meget forskelligt på, hvad der er retfærdigt?

Det er et rigtig godt spørgsmål, som selv eksperter arbejder meget med lige nu. Det korte svar er, at der ikke findes én enkelt formel for retfærdighed, som passer til hele verden. Fordi retfærdighed er et menneskeligt begreb, afhænger det meget af de værdier og den kultur, man befinder sig i.

Når man udvikler AI, bruger man ofte matematiske definitioner for at måle retfærdighed. Det kan for eksempel være at sikre, at en algoritme giver lige mange lån til mænd og kvinder, eller at den ikke diskriminerer baseret på etnicitet. Man kigger altså på data for at se, om resultaterne er statistisk ensartede for forskellige grupper.

Udfordringen opstår, når man vil rulle disse regler ud globalt. En matematisk løsning, der virker retfærdig i Danmark, er måske ikke det samme som i Japan eller Indien. Derfor arbejder man i dag med at kombinere tekniske målinger med etiske retningslinjer. Man forsøger at skabe systemer, der er gennemsigtige, så man altid kan se, hvilke værdier man har valgt at prioritere i den specifikke sammenhæng.