For at undgå at AI skaber biologiske artefakter eller fejlagtige mønstre, skal institutionerne stille strenge krav til både træningsdata og valideringsmetoder. Det handler i bund og grund om at skelne mellem biologisk virkelighed og algoritmiske gætterier. Når en model trænes på histologiske snit, er der risiko for, at den lærer støj eller specifikke farvningsteknikker at kende frem for selve patologien.
En effektiv strategi er at implementere obligatorisk 'ground truth'-verificering, hvor eksperter manuelt efterprøver AI'ens resultater. Man bør anvende metoder som 'Explainable AI' (XAI), så forskere kan se, hvilke områder i billedet algoritmen vægter højest. Hvis modellen fremhæver et område, der ikke stemmer overens med de morfologiske karakteristika for f.eks. en neoplasi, skal systemet flages som upålideligt.
Desuden bør man bruge diverse datasæt, der dækker stor variation i præparationsmetoder og vævstyper. Ved at teste algoritmen på uafhængige kohorter, som den aldrig har set før, kan man afsløre systematiske bias. Det kræver en kultur, hvor tekniske valideringstests vægtes lige så højt som selve den biologiske opdagelse. Gennemsigtighed i algoritmernes arkitektur er her ikke bare en detalje, men en forudsætning for videnskabelig integritet.
