Brugen af antropomorfisk sprogbrug, hvor AI beskrives som om den har bevidsthed, hensigter eller evner til at træffe selvstændige valg, skaber en væsentlig juridisk udfordring. Det primære problem er risikoen for at sløre grænsen mellem teknologisk fejl og menneskeligt ansvar.
Juridisk set er algoritmer ikke juridiske personer. Det betyder, at de ikke kan pådrage sig ansvar eller sagsøges. Ansvaret for en AI-løsning vil altid ligge hos de juridiske enheder, der har udviklet, implementeret eller anvendt systemet. Hvis en virksomhed bruger et sprog, der indikerer, at AI'en er autonom, kan det i visse tilfælde skabe en uklarhed om, hvorvidt fejlen skyldes en uforudsigelig teknisk hændelse eller manglende kontrol fra menneskelig side.
Hvis sprogbruget leder brugere til at tro, at AI'en har en højere grad af dømmekraft end den reelt besidder, kan det øge virksomhedens erstatningsansvar. Dette skyldes, at man kan argumentere for, at virksomheden har ført brugeren bag lyset eller har været uagtsom i sin markedsføring. Derfor er det vigtigt at opretholde en klar distinktion mellem menneskelig beslutningstagning og computeriseret databehandling for at sikre en entydig ansvarsplacering ved skadeshændelser."
" }
