En ny grænse for algoritmernes etik
En tilsynsmyndighed har truffet en afgørelse, der markerer et skifte i kampen mod digitalt indhold. Reklamer for mobilapps, som benytter kunstig intelligens (AI) til at fremstille kvinder som rene genstande, er nu blevet forbudt. Beslutningen falder efter en bølge af klager over billeder, der ikke blot er seksuelle, men som aktivt nedværdiger kvindekroppen gennem algoritmiske præcisionsteknikker.
Det handler ikke bare om uanstændighed i traditionel forstand. Det handler om den måde, generativ AI kan skabe hyperrealistiske billeder, hvor kvinder fremstilles som værktøjer eller pynt uden menneskelighed. Watchdog-enheden har konstateret, at disse annoncer ofte bryder med standarderne for værdig behandling af individer i det digitale rum.
Denne sag er et eksempel på, hvordan teknologien løber hurtigere end lovgivningen. Hvor man tidligere skulle kæmpe mod faktiske modeller eller fotografer, står man nu over for algoritmer, der kan spytte tusindvis af varianter ud på få sekunder. Det gør det svært for de traditionelle kontrolorganer at følge med.
Algoritmernes mørke side i app-markedsføring
Mange af de apps, der er i søgelyset, er enten spil eller redigeringsværktøjer. Reklamerne viser ofte en proces, hvor en kvindelig figur bliver manipuleret, dekonstrueret eller placeret i underdanige positioner. Ved at bruge AI kan udviklerne skabe billeder, der rammer præcis de visuelle triggers, som øger klikraterne (CTR - Click-Through Rate).
Når en algoritme lærer, at et billede af en objektiveret kvindekrop genererer flere downloads, vil den optimere indholdet derefter. Det skaber en selvforstærkende spiral. Systemet er ligeglad med moral; det reagerer kun på data. Hvis de objektiverende billeder virker, bliver de produceret i endnu større mængder.
Det er her, problemet opstår. Watchdog-enheden påpeger, at når markedskræfterne får lov til at styre AI-genereret indhold udelukkende ud fra engagement, ender vi med et digitalt miljø, der er præget af de laveste fællesnævnere. Det er ikke tilfældigt, at de mest aggressive reklamer ofte er dem, der rammer de mest stereotype og nedværdigende fremstillinger.
Konsekvenserne for den digitale kultur
Hvad gør det ved os at blive eksponeret for disse billeder konstant? Sociologer har længe diskuteret effekten af medieafspejling på selvopfattelse og sociale normer. Når AI gør det muligt at masseproducere billeder, hvor kvinden er reduceret til en samling kurver uden ansigt eller agens, ændrer det måden, vi ser på køn på online.
For unge brugere, der bruger timer på sociale medier, kan dette skabe en forvrænget virkelighedsopfattelse. Det er ikke længere bare tale om redigerede modeller i et modemagasin. Det er syntetiske væsner, der er skabt til at provokere instinkter snarere end at kommunikere budskaber. Det fjerner det menneskelige element fra kommunikationen.
Forbuddet betyder, at platformene nu skal implementere strengere filtreringsmekanismer. Det er ikke nok, at de fjerner eksplicit pornografi. De skal nu også kunne identificere de mere subtile former for objektivering, som AI er ekstremt god til at producere. Det kræver en ny type teknisk overvågning, der kan genkende mønstre i den visuelle komposition, som signalerer objektivering.
Udfordringen ved at definere objektivering
Det lyder simpelt at sige, hvad der er objektiverende, men i praksis er det komplekst. Hvor går grænsen mellem en kunstnerisk fremstilling og en rent kommerciel objektivering? Watchdog-enheden har måttet læne sig op ad etiske rammeværk, der kigger på, om personen i billedet bliver behandlet som et subjekt med egen vilje eller som et objekt for beskuerens begær.
Der er også problemet med de såkaldte 'deepfakes' og AI-genererede ansigter. Da personerne i mange af disse reklamer slet ikke eksisterer i virkeligheden, er der ingen nød, der kan råbe op. Der er ingen person, der kan sagsøge for krænkelse af privatlivets fred. Det skaber et juridisk vakuum, som regulatorer nu forsøger at udfylde.
Mange tech-giganter har tidligere hævdet, at de ikke kan kontrollere alt, hvad der bliver uploadet. Men med dette forbud er ansvaret blevet skærpet. Hvis platformen tillader disse annoncer at køre gennem deres betalte annoncesystemer, bærer de et medansvar for at promovere skadeligt indhold. Det er en økonomisk risiko, som virksomhederne nu må tage alvorligt.
Fremtiden for AI-regulering
Dette forbud er sandsynligvis kun begyndelsen. Vi vil se flere tiltag mod den måde, generativ AI bliver brugt i kommercielt øjemed. Diskussionen vil bevæge sig fra blot at handle om ophavsret til også at handle om de etiske implikationer af syntetisk indhold.
Vi står over for et kapløb mellem de teknologier, der kan skabe alt muligt, og de systemer, der skal beskytte os mod de værste konsekvenser. Det kræver en kombination af ny lovgivning, smartere algoritmer til overvågning og en generel samfundsmæssig forståelse for, hvad vi vil tillade i vores digitale fællesskaber.
