Grænsen findes typisk dér, hvor brugerens frie vilje udfordres af skjulte algoritmiske mekanismer. Legitim personalisering handler om relevans. Hvis Netflix foreslår en film, du rent faktisk kan lide, fungerer teknologien som en digital assistent, der sparer dig tid. Det er en service, hvor du bevarer kontrollen over dit valg.
Manipulation opstår, når systemet udnytter menneskelige sårbarheder eller kognitive bias. Det kan ske gennem uendelige feeds, der udløser dopamin-respons, eller ved at præsentere skræddersyet indhold, som bevidst fremprovokerer angst eller afhængighed. I stedet for at hjælpe dig med at finde noget, du søger, prøver algoritmen at fastholde din opmærksomhed for enhver pris, ofte på bekostning af dit mentale velvære.
Lovforslag som det australske lægger vægt på gennemsigtighed og autonomi. Hvis en platform bruger psykologiske greb til at omgå din rationelle beslutningsevne – f.eks. gennem mørke mønstre (dark patterns) eller ekstrem målretning baseret på din psykologiske profil – bevæger vi os over i den ulovlige zone. Det handler i bund og grund om, hvorvidt teknologien understøtter dit mål, eller om den bruger dig som et instrument til at maksimere profit.
