Når algoritmer begynder at læse mellem linjerne i vores digitale beskeder, bevæger vi os ind i et minefelt. Det første og vigtigste princip må være samtykke. Brugeren skal vide præcis, hvornår systemet ikke bare svarer på et spørgsmål, men i virkeligheden analyserer deres psykiske balance. Det duer ikke, at en chatbot i baggrunden laver en uautoriseret screening for depression eller angst, mens du blot søger opskrifter eller teknisk hjælp.
Vi har brug for skarpe regler mod diskrimination. Hvis en algoritme tolker en specifik ordvalgsmåde som et tegn på ustabilitet, risikerer brugeren at blive udelukket fra forsikringer eller jobs, uden nogensinde at vide hvorfor. Den matematiske logik bag analysen må aldrig stå alene; den kan tage fejl, fordi den mangler kulturel forståelse eller kender brugerens personlige kontekst.
Endelig er der spørgsmålet om klinisk ansvar. AI må aldrig stille diagnoser. Den kan måske spotte mønstre, men den må aldrig agere læge. Hvis teknologien indikerer en risiko, skal den lede brugeren mod et menneske – en professionel, der kan tage ansvar for et menneskeliv. Vi skal passe på, at vi ikke erstatter menneskelig empati med kold, beregnende mønstergenkendelse.
