Kunstig intelligens har revolutioneret mange aspekter af vores hverdag, men bag den teknologiske fremgang gemmer der sig en kompleks udfordring. Algoritmerne kan reproducere og forstærke eksisterende kønsmæssige uligheder ved at lære fra historiske data, som indeholder bias mod kvinder.
Modeller som ChatGPT, BART og Metas LLaMA udviser sproglige skævheder og skjulte fordomme ligesom mennesker. Dette sker fordi de trænes på enorme mængder tekst fra internettet, hvor menneskelige fordomme er indlejret i sproget.
Teknikker til at afsløre bias
For at forstå disse skjulte fordomme anvendes teknikker som CoBia. Denne metode bruger konstruerede samtaler til at afsløre samfundsmæssige skævheder i store sprogmodeller, som måske ikke fremtræder ved direkte spørgsmål.
AI i rekruttering og ansættelse
AI-drevne rekrutteringsværktøjer lover hurtigere screening og objektivitet. Forskning viser dog, at algoritmiske fordomme kan føre til diskriminerende ansættelsespraktikker baseret på køn, race og personlighedstræk.
AI i rekruttering kan enten gøre ansættelser mere retfærdige eller forstærke skjulte fordomme. Psykologer fra Assessios forklarer, hvordan man kombinerer AI med struktur og menneskelig dømmekraft for at sikre en mere retfærdig proces.
Ulighed i implementering
Kønsmæssige uligheder findes også i implementeringen og adoptionen af AI, herunder ChatGPT. Det er vigtigt at forstå disse dynamikker for at skabe mere retfærdige teknologiske løsninger.
