Diskursen om risiko og begrænsning
OpenAI hævder, at brugen af ChatGPT blandt teenagere er begrænset, og at deres indbyggede sikkerhedsfiltre effektivt blokerer for skadeligt indhold. Samtidig peger rapporter fra organisationer som Common Sense Media på en "uacceptabel risiko". Denne debat føres ofte som en teknisk diskussion om, hvorvidt guardrails fungerer, eller om prompt-injection kan omgå reglerne. Men ved at fokusere på filterets effektivitet overser vi det egentlige spørgsmål: Hvilken magtdynamik skabes, når en privat virksomhed i San Francisco designer de moralske rammer for millioner af unge menneskers kognitive udvikling?
Når OpenAI rammesætter deres AI som et rent "læringsværktøj", er det ikke kun en beskrivelse af produktet. Det er en juridisk og strategisk positionering. Ved at definere ChatGPT som en avanceret lommeregner eller et opslagsværk, distancerer virksomheden sig fra det ansvar, der følger med at skabe en emotionel ledsager. Hvis en ung bruger udvikler et parasitisk forhold til botten eller søger psykologisk rådgivning hos en LLM (Large Language Model), vil OpenAI kunne pege på deres brugervilkår og sige, at værktøjet aldrig var ment til dette formål.
Overvågningens blinde vinkler
Løsningsforslagene i debatten centrerer sig ofte om forældrekontrol. Logikken er enkel: Forældrene skal overvåge, og systemet skal advare. Men denne model hviler på en privilegeret antagelse om kernefamilien som en sikker havn. For unge i dysfunktionelle hjem eller marginaliserede miljøer er overvågning ikke en tryghed, men en risiko. Her kan en digital assistent være det eneste sted, hvor en ung kan formulere sine tanker uden frygt for vold eller fordømmelse. At gøre forældreovervågning til den primære sikkerhedsmekanisme er at ignorere den systemiske virkelighed for mange børn.
Vi risikerer at reducere unge til objekter for kontrol frem for subjekter med digitalt agentskab. Digital dannelse bør ikke handle om, hvordan voksne bedst kan blokere adgangen til bestemte prompts, men om hvordan den unge kan navigere kritisk i mødet med en maskine, der simulerer empati uden at besidde den. Når vi outsource beskyttelsen til algoritmer og overvågningsapps, fratager vi den unge muligheden for at udvikle en selvstændig dømmekraft.
Den historiske panik og den mentale krise
Frygten for ny teknologi følger et kendt mønster. I 1950'erne advarede kritikere om, at tegneserier førte til juvenile delinquents. Senere blev det computerspil, og derefter sociale medier, der blev udpeget som årsagen til ungdommens forfald. Vi befinder os i en klassisk tilstand af moralsk panik, hvor teknologien bliver syndebukken for dybere strukturelle problemer. ChatGPT skaber ikke nødvendigvis en mental sundhedskrise; den blotlægger den.
At unge søger emotionel støtte hos en chatbot er et symptom på et kollapset menneskeligt støttesystem. Når ventelisterne til PPR (Pædagogisk Psykologisk Rådgivning) er uoverskuelige, og det sociale rum er præget af præstationspres, bliver den altid tilgængelige bot et rationelt valg. Risikoen er ikke nødvendigvis, at AI'en giver et forkert svar, men at vi accepterer en simulering af omsorg som en erstatning for reel menneskelig kontakt.
Fra kontrol til humanistisk dannelse
OpenAI's sikkerhedsmodel bygger på et menneskesyn, hvor den unge ses som en sårbar forbruger, der skal beskyttes via restriktioner. Det er en paternalistisk tilgang, der prioriterer risikominimering over personlig vækst. En mere humanistisk tilgang ville anerkende, at nysgerrighed og eksperimenteren er centrale dele af ungdomstiden. I stedet for blot at blokere "farlige" emner, bør systemet designes til at guide brugeren videre til menneskelige eksperter, når samtalen bevæger sig ind i psykologisk kritiske zoner.
Løsningen findes ikke i bedre filtre eller mere overvågning. Den findes i en investering i den mentale infrastruktur omkring de unge. Hvis vi ønsker at mindske risikoen ved AI, skal vi gøre de menneskelige alternativer – psykologer, mentorer og trygge voksne – lettere tilgængelige end en app. Digital dannelse må handle om at forstå LLM-teknologiens natur: at det er sandsynlighedsregning, ikke bevidsthed. Kun ved at give unge reel indsigt i maskinens mekanik kan vi flytte dem fra at være passive modtagere af algoritmiske svar til at være kritiske operatører af fremtidens værktøjer.
