Når vi taler om kunstig intelligens (AI) i uddannelsessystemet, fokuserer vi ofte på de tekniske udfordringer eller spørgsmålet om plagiat. Men der findes en mere subtil og potentielt farlig skævvridning: måden AI lærer af os og former vores forståelse gennem data.
AI-modeller trænes på enorme mængder menneskeskabt tekst, billeder og data. Disse datasæt er ikke neutrale. De indeholder kulturelle fordomme, historiske skævvridninger og sociale strukturer, der afspejler de samfund, de blev indsamlet fra. Når AI'en lærer at generere svar eller løse opgaver, absorberer den disse mæmner som sandheder.
Algoritmisk bias og kulturel ensretning
En af de største udfordringer er algoritmisk bias. Hvis AI'en primært trænes på vestlige data, vil dens svar ofte reflektere et vestligt verdensbillede. Dette kan føre til en form for kulturel ensretning, hvor minoritetsstemmer eller alternative perspektiver bliver marginaliseret i de svar, som eleverne modtager.
For at imødegå dette skal vi sikre os, at AI-modeller trænes på diverse datasæt. Det kræver bevidst indsats fra udviklerne og en forståelse for den kulturelle kontekst, som dataene stammer fra. Vi må ikke lade teknologien definere vores virkelighed uden kritisk refleksion.
Uddannelsesmæssig brug og kritiske kriterier
AI kan forbedre læring, når det bruges som en pædagogisk samtalepartner til at undersøge svar sammen med lærere. Eleverne skal dog have klare kriterier til at evaluere AI-outputtet kritisk.
Det er vigtigt at forstå, at AI ikke altid har ret. Den kan producere hallucinationer eller præsentere fordomme som fakta. Derfor bør elever lære at stille kritiske spørgsmål og verificere informationerne fra flere kilder.
Ansvarlig brug i skolen
Rektor Brian Juul på Slotshaven Gymnasium har givet 11 elever skriftlige advarsler for brug af AI-genereret indhold i deres studieretningsopgaver, da sproget og fagbegreberne ikke svarede til elevernes niveau. Dette understreger behovet for klare retningslinjer for brugen af AI i uddannelsessystemet.
Vi skal finde en balance mellem at udnytte teknologiens potentiale og sikre, at vi bevarer den menneskelige kritiske sans. Ved at integrere AI på en ansvarlig måde kan vi skabe et mere inkluderende og retfærdigt uddannelsessystem for alle.
