Det er et meget komplekst juridisk spørgsmål, som mange advokater og teknologifirmaer diskuterer lige nu. Generelt set er det svært at placere et entydigt ansvar, fordi lovgivningen ofte er skabt til mennesker og ikke til kunstig intelligens.
I mange lande findes der regler om mellemmandshæftelse. Det betyder, at platforme som regel ikke er direkte ansvarlige for det indhold, brugerne uploader. Men når en chatbot selv genererer tekst, der er injurierende eller ærekrænkende, ændrer situationen sig. Her kan teknologigiganten potentielt blive holdt ansvarlig, hvis de har vidst, at modellen producerede skadeligt indhold, men ikke har gjort noget for at stoppe det.
Lovgivningen er stadig under udvikling, især i EU med den nye AI Act. Denne lovgivning stiller strengere krav til, hvordan virksomheder skal styre de risici, som deres modeller medfører. Hvis en chatbot spreder løgne om en person eller en virksomhed, kan det føre til sagsanlæg om injurier. Virksomhederne forsøger derfor at indbygge sikkerhedsfiltre, der skal forhindre chatbotten i at generere upassende eller krænkende materiale, før det overhovedet når brugeren.
