Grænsen trækkes dér, hvor algoritmen begynder at tilføje information, som de optiske sensorer aldrig har registreret. Når vi bruger AI til denoising eller kontrastforbedring, forsøger vi blot at gøre det synlige tydeligere. Det er ligesom at fjerne korn i et gammelt fotografi. Men så snart en model begynder at 'gætte' sig til strukturer i f.eks. en cellekerne eller komplekse protein-interaktioner, forlader vi videnskaben og træder ind i fiktionen.
Problemet opstår især ved deep learning-baseret super-resolution. Her kan en model generere detaljer, der ser biologisk korrekte ud, men som i virkeligheden er artefakter skabt af træningsdataene. Hvis en algoritme er trænet på bestemte fluorescerende markører, vil den have en tendens til at 'indsætte' disse mønstre i nye billeder, selv hvor de ikke findes. Det kan føre til falske positive resultater i publikationer.
En god tommelfingerregel er at kræve fuld gennemsigtighed. Forskeren skal altid deklarere, hvilke algoritmer der er anvendt, og om de har ændret på den oprindelige datastruktur. Hvis man ikke kan bevise, at det observerede fænomen findes i rådataene uden AI-intervention, har man krydset grænsen fra billedbehandling til manipulation.
