Ja, det er en valid bekymring. Når man udelukkende benytter prompting til at håndtere bias, ændrer man ikke på modellens fundamentale matematiske forståelse eller de statistiske mønstre, den er trænet på. Prompting fungerer som et filter eller en instruks, der forsøger at styre modellens output i en bestemt retning. Dette kan medføre, hvad man kalder overfladisk korrekthed, hvor modellen udtrykker sig neutralt eller politisk korrekt i overensstemmelse med instruktionerne, mens de underliggende associationer og kulturelle skævheder stadig eksisterer i modellens latente rum.
Dette skaber en risiko for, at biasen blot bliver mere subtil eller skjult i stedet for at blive elimineret. Hvis en model stadig har indbyggede stereotyper, kan den i visse kontekster eller ved mere komplekse forespørgsler falde tilbage til disse skævheder, selvom den i de mest åbenlyse tilfælde følger promptens instruktioner. For at opnå en reel reduktion af bias kræves ofte en kombination af metoder, herunder finjustering (fine-tuning) på balancerede datasæt eller implementering af algoritmiske rettelser i selve træningsprocessen, så de underliggende vægte reflekterer en mere retfærdig repræsentation.
