Når en kunstig intelligens (AI) fejler, lander det juridiske hovedansvar som udgangspunkt hos den behandlende læge. I det nuværende sundhedsvæsen betragtes AI som et beslutningsstøtteværktøj – ligesom et røntgenapparat eller en blodprøve. Det betyder, at lægen har det endelige kliniske ansvar. Hvis teknologien overser en tumor, som lægen burde have opdaget, er det den menneskelige beslutningstager, der står til ansvar for fejlagtige handlinger eller forsømmelse.
Det skaber dog et komplekst etisk dilemma: Kan vi overhovedet forvente, at et menneske kan kontrollere en algoritme, der arbejder hurtigere og med data, som lægen ikke selv kan overskue? Her opstår fænomenet 'automation bias', hvor vi stoler blindt på maskiner, fordi de har ret 99 % af tiden. Det udfordrer lægens autonomi og evne til at udøve kritisk dømmekraft.
Juridisk set flytter fokus sig dog også mod producenten. Hvis fejlen skyldes en programmeringsbrist eller dårlig træningsdata, kan der opstå et produktansvar. Det efterlader os i en gråzone, hvor ansvaret er delt mellem den kliniske fejl og den tekniske defekt. Det kræver klare rammer for, hvornår teknologien er et værktøj, og hvornår den er en medskyldig part i en medicinsk fejl.
