Når man designer algoritmer til sociale medier eller søgemaskiner, er der en svær balancegang. Man ønsker at vise brugerne forskellige perspektiver for at sikre diversitet, men man vil ikke ved en fejl skubbe folk mod falske nyheder eller ekstremt indhold, som de andre i deres netværk også deler.
En teknisk løsning er at indbygge matematiske målinger for diversitet direkte i algoritmen. I stedet for kun at optimere efter hvad brugeren allerede kan lide, kan man programmere systemet til at prioritere indhold, der er relevant, men som har en anden vinkel eller kilde end det, brugeren normalt ser. Dette kaldes ofte for diversitetsoptimering.
For at undgå misinformation skal man samtidig bruge filtreringsteknologier. Det betyder, at algoritmen først verificerer kildens troværdighed eller bruger mønstergenkendelse til at opdage falsk information. Ved at kombinere disse to systemer kan man skabe en anbefalingsmotor, der både udfordrer brugerens verdensbillede og samtidig beskytter dem mod løgn. Det kræver en kombination af data om indholdets kvalitet og matematiske regler for, hvor meget variation brugeren skal præsenteres for.
