Bag om de lukkede døre hos OpenAI
Nyheden om, at OpenAI har sat udrulningen af deres kommende model, GPT-6.1 Astra, på pause, blev i medierne præsenteret som en sejr for sikkerheden. Narrativet lyder ofte, at virksomheden har indset, at teknologien er blevet for kraftfuld, og at de nu træder et skridt tilbage for at undgå de værste scenarier. Men denne forklaring er en bekvem omvej. Ved at tale om usikkerhed og abstrakte risici flytter man opmærksomheden væk fra de fejl, der allerede finder sted, og over mod en hypotetisk fremtid, hvor maskinerne overtager kontrollen.
I virkeligheden handler de indre stridigheder i Silicon Valley sjældent om filosofisk overlevelse. Det handler om, hvorvidt modellen kan modstå det pres, som markedet lægger på den. Når en model som Astra trækkes tilbage, er det ofte fordi, de konkrete sårbarheder – de fejl, der kan bruges til at bryde ind i systemer eller manipulere data – er blevet for tydelige. Det er en teknisk fejlretning, ikke en etisk opvågnen.
De faktiske skader mod de abstrakte scenarier
Vi bruger for meget tid på at diskutere "AI-dommedag" og eksistentiel risiko, en retning der ofte promoveres af folk med store økonomiske interesser i at rammesætte debatten. Mens teoretikere diskuterer, om en superintelligens kan udslette menneskeheden, bliver virkelighedens skader overset. Et talende eksempel er de nylige hackerangreb mod australske institutioner, hvor AI-drevet automatisering gjorde det muligt at gennemføre sofistikerede angreb mod statslige databaser med minimal indsats.
Sikkerhed er ikke et filosofisk spørgsmål om maskinens bevidsthed. Det er et spørgsmål om databeskyttelse og national sikkerhed. Når en model er usikker, betyder det ikke nødvendigvis, at den bliver ond; det betyder, at en ondsindet aktør kan bruge den til at finde huller i et forsvar. Det er her, den reelle fare ligger. Det er her, de konkrete konsekvenser rammer os nu, fremfor i en fjern fremtid.
Ofrene findes i sundhedsvæsenet, ikke i science fiction
Når vi taler om de menneskelige omkostninger ved uansvarlig AI-udvikling, skal vi kigge på de institutioner, der holder vores samfund sammen. Tag for eksempel de fejltrin, der har ramt sundhedssystemer som Victorian Department of Health. Når AI-agenter eller algoritmer fejler, eller når data lækker gennem ubeskyttede API'er, er det ikke tech-direktørerne, der lider. Det er patienterne, hvis private journaler bliver offentlige, eller hvis diagnostiske værktøjer giver forkerte svar på grund af mangelfuld validering.
Der er en dyb ulighed i, hvem der bærer risikoen. Silicon Valley kan lancere en beta-version, se fejlene opstå og derefter blot rette koden. Men for en borger, der får sit livs vigtigste sundhedsdata misbrugt, er fejlen irreversibel. Den menneskelige pris ved fejlslagen AI-sikkerhed måles i tabt privatliv, fejlbehandling og social usikkerhed, ikke i teoretiske matematiske singulariteter.
Selskabsstyring vs. demokratisk kontrol
Professor Gina Neff har peget på et fundamentalt problem: Kan vi overlade sikkerheden til de virksomheder, der lever af at sælge fremskridt? OpenAI er i dag en hybrid mellem en nonprofit-struktur og en kommerciel gigant, men deres incitamenter er stadig dybt forankret i vækst. Når sikkerhed bliver et spørgsmål om "selvregulering", har vi reelt afgivet kontrollen til private aktører, hvis primære ansvar over for aktionærerne er at være først på markedet.
Der mangler uafhængig, demokratisk kontrol. Vi ser ikke en global standard for, hvad en "sikker" AI er, eller hvem der må kontrollere den. I stedet ser vi en række uigennemsigtige evalueringer, som virksomhederne selv udfører. Det svarer til at lade en bilproducent bestemme selv, hvornår deres biler er sikre nok til at køre på offentlig vej, uden at en uafhængig myndighed har tjekket bremserne.
Teknologiens kollision med national suverænitet
Den nuværende udvikling følger en aggressiv "move fast and break things"-kultur. Det fungerer måske for en app til madudbringning, men det er en farlig strategi, når teknologien integreres i den kritiske infrastruktur. Når AI-modeller bliver mere autonome, udfordrer de de nationale suveræniteter. En algoritme udviklet i Californien kan have indbyggede bias eller sikkerhedsbrister, som direkte påvirker de demokratiske processer eller infrastrukturen i et andet land.
Vi ser et magtskifte, hvor en håndfuld private selskaber i Silicon Valley i praksis dikterer de teknologiske præmisser for resten af verden. Det skaber en geopolitisk ubalance, hvor stater må kæmpe for at opretholde kontrollen over deres egne data og beslutningsprocesser. Spørgsmålet er ikke, om teknologien kan blive for klog, men om den allerede er blevet for magtfuld uden at være underlagt de love, der normalt regulerer magt i et demokratisk samfund.
