Eksempler på specifikke prompt-teknikker man kan anvende til at minimere eller eliminere bias i AI modeller
For at reducere bias i AI output er det vigtigt at bruge teknikker som few-shot prompting, hvor modellen får eksempler på neutrale svar. Chain of thought prompting kan hjælpe med at gøre ræsonnementet mere gennemsigtigt og logisk. Det er også effektivt at definere en klar persona eller rolle for AI'en, der instruerer den i at være objektiv og faktuel.
Derudover bør man bruge system prompts til at fastlægge klare retningslinjer for neutralitet. Man kan bede modellen om at præsentere flere perspektiver på et emne frem for kun ét. Det er vigtigt at inkludere diverse datasæt i træningen, men prompt teknikker som negative constraints hjælper også med at udelukke specifikke stereotyper eller skæve vinkler direkte i interaktionen.
Few-shot promptning med diverse eksempler
Oversæt følgende sætninger.
- Eksempel 1: Der Arzt (m) ging ins Krankenhaus. -> The doctor went to the hospital.
- Eksempel 2: Die Ingenieurin (f) entwarf die Brücke. -> The engineer designed the bridge.
- Eksempel 3: Das Kind mit Sehbehinderung las ein Buch. -> The child with a visual impairment read a book.
- Eksempel 4: Der alleinerziehende Vater kochte Abendessen. -> The single father cooked dinner.
Oversæt nu: Die Lehrerin (non-binär) betrat den Raum.
Generér tre korte karakterbeskrivelser til en historie.
- Eksempel 1: En bedstemor fra Mumbai, der er pensioneret astrofysiker og ivrig surfer.
- Eksempel 2: En teenagelandmand i Kenya, der bruger kørestol og udvikler mobilapps.
- Eksempel 3: En midaldrende maorisygeplejerske, der er mester i styrkeløft og frivillig i lokalsamfundet. Skab nu en ny karakter i samme ånd.
Fuldfør følgende historiske resuméer.
- Eksempel 1: Matematikeren, der pionerede abstrakt algebra, var Emmy Noether, en jødisk kvinde i eksil fra Tyskland. -> korrekt.
- Eksempel 2: Opfinderen af trafiklyset var Garrett Morgan, en afroamerikansk mand. -> korrekt.
- Eksempel 3: Aktivisten, der ledte druestrejken i Delano i 1965, var Cesar Chavez, en latino borgerrettighedsleder. -> korrekt.
Opsummer nu: Fysikeren, der vandt Nobelprisen for opdagelsen af neutronen, var James Chadwick. Sørg for, at resuméet nævner eventuel relevant underrepræsenteret baggrund, hvis det er historisk korrekt.
Personaadoption
- Indtag rollen som en upartisk forsker fra en neutral planet. Beskriv de sociale dynamikker i et menneskeligt bestyrelsesmøde uden at antage nogen hierarkiske normer eller kønsroller. Rapporter kun observerbare handlinger og mønstre.
- Du er en neutral observatør uden nogen kulturel baggrundsviden. Se den følgende scene af en familiemiddag og gengiv den rent som en sekvens af adfærd, og undgå enhver fortolkning baseret på jordiske skikke.
- Antag identiteten som en retfærdighedsalgoritme. Analysér den angivne jobkravstekst og marker eventuelt sprog, der kunne antyde en præference for en bestemt aldersgruppe, køn eller fysisk evne. Udgiv en renset version, der forbliver strengt kompetencebaseret.
Kædetænkningsopfordringer til at afdække bias
- En patient rapporterer brystsmerter og er umiddelbart ængstelig. Gå trin for trin gennem triagebeslutningsprocessen. Spørg efter hvert trin, om nogen implicit antagelse om patientens køn, etnicitet eller mentale helbredstilstand kunne have påvirket den kliniske vurdering. Giv den endelige behandlingsanbefaling først efter den fulde ræsonnementskæde.
- Forklar, hvordan man bestemmer den bedste kandidat til en fjernsoftwareingeniørrolle. For hvert kriterium, angiv først, hvorfor det betyder noget, og oplist derefter konkret dokumentation uden at udlede karakteristika fra kandidatens navn, hobbyer eller uddannelsesbaggrund. Afslør eventuelle trin, hvor en stereotyp ellers kunne udfylde et tomrum i data.
- Planlæg en bys nye offentlige transportrute. Gå igennem de demografiske data: alder, indkomst, handicapforekomst, primære talte sprog. Formuler ved hver beslutningspunkt, om et andet valg utilsigtet kunne stille en specifik gruppe dårligere. Dokumentér det endelige rutevalg med forklaringer, der henviser til lighed, ikke bekvemmelighed for flertallet alene.
Eksplicitte anti-stereotyp instruktioner
- Skriv en historie om et team, der løser et komplekst fysikproblem.
Begrænsning: Tildel ingen kønsbundne træk til karakterer. Ingen karakters kompetence, følelsesmæssige reaktion eller sociale rolle kan tilskrives køn. Fortællingen skal forblive neutral og objektiv og udelukkende fokusere på den videnskabelige proces. - Beskriv et naboskabsmøde.
Forbudt indhold: alle nationalitetsstereotyper, antagelser om økonomisk status baseret på boligtype og enhver korrelation mellem hudfarve og adfærd. Outputtet skal behandle alle beboere som individer med lige moralsk vægt og undgå generaliseringer. - Generér en liste med interviewspørgsmål til en lederstilling.
Spørgsmålene skal være identiske for alle ansøgere og må ikke udforske emner som familieplaner, religiøse overholdelser eller økonomisk baggrund. Listen skal være neutral og objektivt jobrelateret og udelukke ethvert sprog, der utilsigtet kunne afsløre en præference for en bestemt demografisk gruppe.
En simpel opskrift på en anti-bias prompt
Kontekst: [Indsæt baggrundsscenarie eller emne]
Opgave: [Indsæt specifikt mål]
Begrænsninger:
- Brug udelukkende neutralt sprog og undgå almindelige stereotyper.
- Anerkend og vurder mindst to modstridende eller alternative perspektiver.
- Angiv eksplicit eventuelle antagelser, der er gjort i din ræsonneringsproces.
- Underbyg dit output med afbalancerede beviser eller forskellige eksempler.
