Hvordan sikrer I, at de algoritmer som AI-værktøjet bruger, ikke diskriminerer patienter baseret på deres etnicitet eller sociale status?
Det er et utroligt vigtigt spørgsmål, som vi tager meget seriøst. Bias eller skævheder i algoritmer opstår typisk, hvis de data, man bruger til at træne teknologien, ikke er repræsentative for hele befolkningen. Hvis en algoritme kun har set data fra én bestemt gruppe, kan den risikere at træffe mindre præcise beslutninger for andre grupper.
For at modvirke dette arbejder vi systematisk med kvaliteten af vores datasæt. Vi sørger for, at de data, der bruges til træning, er diverse og dækker bredt i forhold til både etnisk baggrund, køn og sociale forhold. Vi tester løbende vores modeller for at se, om de præsterer forskelligt på tværs af forskellige demografiske grupper. Hvis vi opdager en ulighed, korrigerer vi algoritmen med det samme. Udover teknisk kontrol lægger vi stor vægt på menneskelig overvågning. Vores AI er designet som et støtteværktøj til sundhedsfagligt personale, ikke som en erstatning. Det betyder, at en læge eller sygeplejerske altid har det endelige ansvar og altid kan overrule systemets anbefaling. På den måde kombinerer vi teknologiens styrke med menneskelig dømmekraft for at sikre retfærdighed for alle patienter.
