Når man arbejder med algoritmer, opstår der ofte et dilemma. På den ene side ønsker man en algoritme, der er så præcis og effektiv som muligt. På den anden side skal man sikre, at den ikke diskriminerer eller overser sårbare minoritetsgrupper.
Der findes ikke én enkelt løsning, men man kan bruge flere forskellige etiske rammeværk. Et centralt begreb er retfærdighed eller fairness. Her kigger man på, om algoritmens resultater er ligeligt fordelt mellem forskellige grupper. Et andet vigtigt princip er gennemsigtighed. Det betyder, at vi skal kunne forstå, hvorfor en algoritme træffer en bestemt beslutning. Hvis processen er en sort boks, som ingen forstår, er det svært at opdage uretfærdighed.
Man bør også inddrage menneskerettigheder og princippet om ikke at skade. Det betyder, at man skal foretage konsekvensanalyser, før man bruger teknologien. Ved at teste algoritmen på forskellige datasæt kan man se, om den rammer skævt i forhold til minoriteter. En god tilgang er derfor altid at kombinere matematisk præcision med menneskelig etik og løbende kontrol for at sikre, at effektivitet aldrig sker på bekostning af retfærdighed.
