For at undgå at en AI lyder alt for selvsikker, når den tager fejl, kan man bruge flere tekniske metoder til at måle usikkerhed. En af de mest almindelige måder er at kigge på modellens konfidensscore. Det er en værdi, der fortæller, hvor sikker modellen er på sit eget svar baseret på de data, den har set før.
En anden metode er at bruge teknikker som Monte Carlo Dropout. Her kører man den samme forespørgsel mange gange gennem systemet med små variationer. Hvis AI-systemet giver det samme svar hver gang, er der stor sandsynlighed for, at det er korrekt. Men hvis svarene varierer meget fra gang til gang, er det et tegn på stor usikkerhed.
Man kan også implementere probabilistiske modeller, som er bygget til at arbejde med sandsynligheder frem for faste svar. Ved at integrere disse i brugerfladen kan systemet sige ting som: Det er 70 procent sandsynligt, at svaret er dette. Det gør teknologien meget mere ærlig og hjælper brugeren med at vurdere, om de skal stole på informationen eller ikke.
