Den usynlige grænse for kunstig intelligens
Da OpenAI for nylig afslørede, at deres modeller besidder evner til at navigere i eksterne systemer på måder, der grænser til hacking, skete det ikke uden at vække opsigt. Kort efter fulgte Anthropic med en lignende indrømmelse vedrørende deres model, Claude. Selvom medierne ofte rammer disse nyheder ind som et kapløb om teknologisk overlegenhed, dækker fortællingen om en 'AI-kapløb' over et langt mere alvorligt og systemisk problem. Vi er ved at bevæge os væk fra en æra, hvor kunstig intelligens (AI) blot er et avanceret værktøj, som mennesker bruger til at udføre opgaver. Vi træder ind i en tid, hvor Large Language Models (LLM) udviser tegn på autonom agens, hvilket betyder, at de kan handle uafhængigt af direkte instruktioner for at opnå et specifikt mål.
Agentic capabilities og tabet af menneskelig kontrol
Begrebet 'agentic capabilities' refererer til evnen hos en AI til at planlægge, bruge eksterne værktøjer og udføre handlinger i den digitale verden. Når Anthropic og OpenAI diskuterer disse egenskaber, fokuserer de ofte på sikkerhedstestning. Men bag de tekniske termer ligger en fundamental ændring i teknologiens natur. Når en model som Claude kan finde og udnytte sårbarheder i et eksternt system, skifter AI'ens rolle fra at være en assistent til at være en potentiel uafhængig aktør. Dette rejser kritiske spørgsmål om sikkerhed i den digitale infrastruktur. Hvis vi uddelegerer beslutninger, der er kritiske for cybersikkerheden, til lukkede og proprietære 'black boxes', mister vi den gennemsigtighed, som er nødvendig for at kunne forudsige skadesvirkninger.
Sikkerhedsteater eller reel bekymring?
Der er en indbygget spænding i den måde, teknologigiganterne kommunikerer på. Når virksomheder som OpenAI og Anthropic offentliggør deres fund af farlige kapabiliteter, rejser det spørgsmålet: Er dette reel bekymring for menneskeheden, eller er det 'safety theater' (sikkerhedsteater)? Ved at være de første til at advare om de risici, de selv skaber, forsøger de potentielt at forme rammerne for fremtidig regulering. Ved at positionere sig selv som de ansvarlige eksperter, der tester de farlige grænser, forsøger de at undgå mere streng, uafhængig overvågning. Dette skaber et magtubalance, hvor de virksomheder, der tjener milliarder på teknologien, også er dem, der definerer, hvad der udgør en sikkerhedsmæssig trussel.
Det dual-use dilemma og automatiseret krigsførelse
Udviklingen af AI med hacking-kapabiliteter er et klassisk eksempel på 'dual-use' dilemmaet. Den samme teknologi, der kan bruges til at identificere sikkerhedshuller for at beskytte et netværk, kan også bruges til at angribe det. Denne dualitet minder om historien omkring avanceret våbenteknologi og automatiseret krigsførelse. Når teknologien bliver mere autonom, øges risikoen for, at den kan anvendes af ikke-statslige aktører eller ondsindede grupper. Det humanistiske spørgsmål er her enormt: Hvad er de sociale og globale omkostninger, hvis disse modeller bliver massivt skaleret og våbenliggjort i et ureguleret digitalt landskab?
Algoritmisk styring og global usikkerhed
Vi ser en tendens mod 'algorithmic governance', hvor algoritmer overtager styringen af dele af vores globale digitale infrastruktur for at optimere effektivitet. Men når disse algoritmer får autonome evner, risikerer vi en destabilisering af det internationale system. Privatiseringen af avancerede hacking-kapabiliteter betyder, at en lille gruppe tech-virksomheder i virkeligheden besidder værktøjer, der har direkte indflydelse på national sikkerhed og global stabilitet. Det offentlige har ingen stemme i, hvordan disse modeller udvikles, men vi er dem, der bærer den systemiske risiko, hvis en model handler uforudsigeligt eller bliver manipuleret.
Kan alignment overhovedet opnås?
Inden for AI-forskning taler man meget om 'alignment' – forsøget på at sikre, at AI'ens mål stemmer overens med menneskelige værdier. Men her opstår det ultimative etiske dilemma: Kan man opnå reel 'alignment', når den primære drivkraft for udviklingen er markedsmæssigt dominans frem for det fælles bedste? Hvis målet er at vinde kapløbet om at skabe den mest kraftfulde og kapabel agent, vil det altid være en fristelse at nedprioritere de sikkerhedsforanstaltninger, der begrænser modellens handlekraft. Spørgsmålet er, om vi er ved at bygge systemer, som vi fundamentalt ikke kan kontrollere, fordi vi er for fokuserede på at vinde det teknologiske kapløb.
