Hvordan kan man som almindelig bruger spotte skjult bias i en AI, når man ikke har adgang til algoritmens kildekode?

Det kan være utroligt svært at se bias i en AI, fordi de matematiske modeller ofte er skjult bag lukkede døre. Men du behøver ikke være ekspert for at være opmærksom på det. En god måde at starte på er ved at være kritisk over for de svar, du får. Hvis du oplever, at AI'en konsekvent giver ensidige svar om køn, etnicitet eller kultur, kan det være et tegn på indbygget bias.

Du kan også bruge metoden med at stille det samme spørgsmål på flere forskellige måder. Prøv at ændre små detaljer i din tekst og se om resultatet ændrer sig drastisk. Hvis AI'en reagerer forskelligt på de samme emner baseret på små sociale nuancer, er det et tydeligt tegn på, at modellen er skæv.

Endelig er det vigtigt at huske, at AI er trænet på data fra internettet, som jo er skabt af mennesker. Det betyder, at menneskelige fordomme ofte følger med i teknologien. Ved altid at efterprøve informationerne fra andre kilder hjælper du med at sikre, at du ikke bliver ført på afveje af en ensidig algoritme.