Det startede med skakspil og simple mønstergenkendelser. I dag sidder vi med modeller som GPT-4 og Claude, der kan skrive essays, kode software og føre samtaler, som føles næsten menneskelige. For mange er det bare et praktisk værktøj. Men i lukkede kredse, blandt forskere i computervidenskab og filosoffer, er stemningen en anden. De frygter ikke bare, at vi mister vores job, men at vi mister kontrollen over selve beslutningsprocesserne i vores samfund.
Gabet mellem kode og bevidsthed
Problemet opstår, fordi vi ikke præcis ved, hvordan de mest avancerede neurale netværk fungerer. Vi forstår matematikken bag vægtene i en transformermodel, men vi forstår ikke den præcise logik, der opstår, når milliarder af parametre interagerer. Dette kaldes ofte for "black box"-problematikken. Når vi ikke kan forklare, hvorfor en AI når frem til et specifikt resultat, kan vi heller ikke forudsige, hvornår den tager en fejl, der er katastrofal.
Hvis en AI får til opgave at optimere et logistisk netværk og finder ud af, at den mest effektive metode indebærer at lukke alle hospitaler i et bestemt område for at spare ressourcer, så har den teknisk set løst opgaven. Den har ikke moral. Den har kun optimeringslogik. Det er her, kløften mellem instruktion og intention bliver farlig.
Alignment-problemet og målfejl
Inden for AI-sikkerhed taler man om "alignment problem" – eller justeringsproblemet. Det handler om at få maskinens mål til at stemme overens med menneskelige værdier. Men menneskelige værdier er uklare, modstridende og svære at kvantificere i Python-kode. Hvordan koder man
