Fra enkeltstående chikane til industriel nedbrydning
Da den britiske reklameinstans ASA for nylig forbød en række AI-apps for at promovere 'objektivering af kvinder', blev det i mange medier præsenteret som en sejr for ordentligheden. Men at betragte forbuddet som en løsning svarer til at lappe et hul i en dæmning, mens vandtrykket bagved kun stiger. Der er nemlig ikke blot tale om nogle få ulovlige reklamer. Vi står over for et skifte fra individuel chikane til en industriel proces, hvor teknologien er designet til at reducere mennesker til programmerbare aktiver.
Hvor man tidligere skulle bruge manuelle kræfter eller specifikke værktøjer for at skabe eksplicit materiale, kan AI nu generere tusindvis af billeder på sekunder. Dette er ikke blot en teknologisk opgradering; det er en fundamental ændring i, hvordan vi kan krænke hinanden. Når en algoritme kan tage et billede af en hvem som helst og fjerne tøjet med et enkelt klik, bliver den menneskelige krop devalueret til ren data, der kan manipuleres, videresendes og kommercialiseres uden tanke for det menneske, billedet forestiller.
Den digitale kropslige integritet under angreb
Begrebet 'digital kropslig integritet' er ved at blive en af de mest centrale menneskerettigheder i det 21. århundrede. Det handler om retten til at kontrollere sit eget billede og sin egen seksualitet. Når AI-apps tilbyder 'nudification' – en betegnelse for den tekniske proces, hvor tøj fjernes digitalt – angriber de selve fundamentet for den personlige autonomi.
Historisk har kvinder været udsat for objektivering i medier, fra plakater til film, men AI introducerer en hastighed og en skala, som intet tidligere system har kunnet modstå. Forskellen ligger i det totale tab af kontrol. I den analoge verden krævede skabelsen af et skamfuldt billede en intention og en fysisk handling. I den digitale verden er det en matematisk beregning. Det betyder, at ofre for deepfakes ikke blot kæmper mod en enkelt person, men mod en infrastruktur, der gør det muligt for alle at være krænker.
Profitten i skyggen af de sociale omkostninger
Bag de glittede brugerflader i de apps, som tilsynsmyndighederne forsøger at ramme, gemmer der sig en kynisk forretningsmodel. Tech-virksomheder og udviklere høster enorme overskud ved at facilitere adgangen til syntetisk pornografi. De opbygger platformene, optimerer algoritmerne til at fastholde brugere og tjener penge på abonnementer og mikrotransaktioner.
Mens virksomhederne indsamler deres profit, overlader de de psykologiske og sociale omkostninger til samfundet. Det er de enkelte kvinder, der skal leve med de sociale konsekvenser af de billeder, der cirkulerer på internettet. Det er de sociale myndigheder og politiet, der skal håndtere de digitale overgreb. Der opstår en ekstrem magtulighed, hvor de, der skaber de værktøjer, der nedbryder den menneskelige værdighed, kan trække sig tilbage i anonymitet eller flytte deres servere til lande uden regulering, mens skaden på individet er permanent.
Hvorfor regulering alene er utilstrækkelig
Det er fristende at hylde myndighedernes beslutninger om at fjerne reklamer, men en reaktiv tilgang er som at forsøge at bekæmpe en ildebrand ved kun at fjerne de gnister, der lander på græsplænen. At forbyde en reklame for en app betyder ikke, at appen holder op med at eksistere, eller at dens kernefunktionalitet ændrer sig. Det ændrer blot, hvor de gemmer sig.
Hvis vi kun fokuserer på den visuelle repræsentation i reklamer, overser vi den underliggende infrastruktur. Vi har brug for en strukturel reform, der adresserer de modeller, som disse AI-værktøjer er trænet på. Hvis de datasæt, der fodrer fremtidens AI, er mættet med stereotyper og objektiverede billeder af kvinder, vil teknologien uundgåeligt reproducere og forstærke disse mønstre. En teknisk løsning på et etisk problem er nødvendig, men den skal ramme selve fundamentet for, hvordan vi træner og distribuerer disse modeller.
De psykologiske eftervirkninger af den automatiserede dehumanisering
Man kan ikke tale om AI-genereret objektivering uden at tale om den psykiske belastning. For ofre for non-consensual deepfakes er traumet ikke mindre reelt, fordi billedet er syntetisk. Hjernen reagerer på krænkelser af det sociale og seksuelle selv på samme måde, uanset om billedet er fanget med et kamera eller genereret af en GPU.
Normaliseringen af disse værktøjer i det offentlige digitale rum skaber en kultur, hvor grænsen mellem virkelighed og manipulation udviskes. Når vi vænner os til at se menneskekroppe som noget, der blot kan dekonstrueres og omarrangeres digitalt, mister vi respekten for den fysiske person. Det er en gradvis erosion af empati. Hvis et menneske kan reduceres til en samling pixels, der kan manipuleres til ethvert formål, hvad sker der så med vores kollektive forståelse af værdighed?
