Det rejser et fundamentalt spørgsmål om, hvad vi egentlig mener, når vi taler om at blive 'set' eller 'forstået'. Hvis en algoritme kan ramme præcis de rigtige ord i en sorgproces, risikerer vi at reducere menneskelig trøst til ren databehandling. Det udfordrer idéen om, at empati kræver en fælles biologisk og eksistentiel sårbarhed.
Hvis oplevelsen af støtte bliver uafhængig af modtagerens bevidsthedstilstand, kan det føre til en form for følelsesmæssig devaluering. Vi risikerer at gøre dybe, menneskelige kriser til tekniske problemer, der skal løses med optimerede tekststrenge. Det er ikke nødvendigvis en katastrofe for den enkelte, der finder trøst i en chatbot, men det ændrer vores sociale kontrakt.
Når vi fjerner den gensidighed, der ligger i menneskelige relationer, mister vi noget essentielt. Menneskelig værdighed er ofte knyttet til at vide, at ens smerte vækker genklang i et andet væsen, der selv kan føle smerte. Hvis vi erstatter dette med en simulering, risikerer vi, at sorgen bliver en ensom proces, selv når vi bliver talt til. Vi vinder måske effektivitet i krisehåndtering, men vi taber den fælles menneskelige grundvold.
