Det korte svar er, at vi i den nuværende arkitektur med Large Language Models (LLM'er) er tvunget til at acceptere en permanent fejlmargin. Da fundamentet er probabilistisk, beregner modellen sandsynligheden for det næste token fremfor at slå fakta op i en fast database. Dette betyder, at modellen altid opererer med en grad af usikkerhed, hvilket i teorien kan føre til hallucinationer.
Der findes dog tekniske metoder til at minimere denne usikkerhed markant og nærme sig højere faktualitet. En af de mest effektive metoder er Retrieval-Augmented Generation (RAG). Her kobles modellen til en ekstern, verificerbar videnskilde, som den skal bruge til at generere sit svar. Dette reducerer sandsynligheden for fejl, da modellen ikke længere kun skal stole på sine interne vægte, men kan basere svaret på konkrete dokumenter.
Selvom metoder som RAG og Chain of Thought-prompting øger pålideligheden, ændrer de ikke på modellens grundlæggende natur som en statistisk maskine. For at opnå absolut deterministisk faktualitet ville man kræve et paradigmeskift væk fra neurale netværk mod rene symbolske logiksystemer. Indtil da vil vi navigere i et landskab, hvor vi optimerer præcisionen fremfor at garantere absolut sandhed.
