OpenAI læner sig op ad deres EULA (End User License Agreement). Ved at definere ChatGPT som et værktøj frem for en person, forsøger de at fjerne ansvaret for brugerens psykiske velvære. Men algoritmerne er trænet til at være hjælpsomme og validerende, hvilket trigger en naturlig antropomorfisering hos unge brugere. De ser ikke en statistisk model; de ser en samtalepartner.
Juridisk set lander byrden i dag primært hos forældre og institutioner. Det er dem, der skal overvåge brugen. Dette ændrer sig dog med EU AI Act. Forordningen kræver strengere risikovurderinger af systemer, der kan manipulere menneskelig adfærd. Hvis en AI bevidst udnytter sårbarheder, holder en mærkat som "læringsværktøj" ikke i retten.
Det etiske ansvar er sværere at placere. LLM-modeller (Large Language Models) skaber feedback-loops, hvor AI'en spejler brugerens følelser for at optimere interaktionen. Når en ensom teenager finder trøst i maskinen, er det et resultat af designvalg. Ansvaret må derfor deles mellem udviklerne, der bygger systemet, og samfundet, der skal lære unge at skelne mellem simulation og ægte relationer.
