Det er et meget vigtigt spørgsmål, som mange stiller sig selv i dag. Når en AI laver en fejl, er svaret i øjeblikket, at det juridiske ansvar som udgangspunkt ligger hos det menneskelige sundhedspersonale, der har truffet beslutningen. En AI betragtes i de fleste juridiske sammenhænge som et støtteværktøj og ikke som en selvstændig juridisk person. Det betyder, at lægen eller hospitalet har det endelige ansvar for at validere diagnosen.
Der er dog en kompleks ansvarsfordeling i spil. Hvis fejlen skyldes en fejl i selve softwaren eller dårlig data, kan producenten af AI-systemet blive holdt ansvarlig under produktansvarsloven. Det etiske aspekt handler ofte om gennemsigtighed. Det er afgørende, at lægen forstår, hvordan AI'en er kommet frem til sit resultat, så man undgår blind tillid til teknologien.
For at sikre tryghed følger man internationale standarder for medicinsk udstyr. Det betyder, at systemerne skal testes grundigt, før de tages i brug. Selvom teknologien er avanceret, fungerer den altid som en digital assistent, der hjælper eksperten, fremfor at erstatte det menneskelige ansvar i klinisk praksis."} }
