Det er et meget vigtigt spørgsmål, som mange stiller sig selv. Det korte svar er, at AI aldrig fungerer alene. I sundhedsvæsenet bliver AI kun brugt som et beslutningsstøtteværktøj. Det betyder, at det altid er en autoriseret læge, der tager den endelige beslutning og har det juridiske ansvar for behandlingen.
For at sikre høj etik og sikkerhed arbejder vi med flere lag af beskyttelse. For det første gennemgår alle algoritmer strenge kliniske test, før de bliver taget i brug. For det andet er systemerne designet til at være gennemsigtige, så lægen kan forstå, hvorfor AI'en når frem til et bestemt resultat. Dette kaldes forklarlig AI.
Derudover er der faste procedurer for overvågning. Hvis systemet udviser uventet adfærd eller fejltyper, bliver det taget ud af drift med det samme. Ved fejl findes der klare retningslinjer for ansvarsplacering, hvor de medicinske standarder altid vægtes højere end den teknologiske bekvemmelighed. Målet er altid at beskytte patientens sikkerhed og sikre, at teknologien understøtter, snarere end erstatter, den menneskelige ekspertise."}
