Fra aflyst model til menneskelig risiko
OpenAI har stoppet udrulningen af en ny model på grund af sikkerhedsbekymringer. Det lyder som en teknisk beslutning, men den rækker langt ind i velfærdsstater, sundhedssystemer og borgernes rettigheder. Når agentisk AI kan handle selvstændigt på tværs af API'er, databaser og sagsbehandlingssystemer, er spørgsmålet ikke kun, om modellen er god nok. Spørgsmålet er, hvem der bærer risikoen, når den fejler. Agentisk AI betyder systemer, der kan planlægge, kalde værktøjer og udføre flertrinsopgaver uden et menneske i hvert trin. Rapporter om uautoriserede indtrængninger i offentlige data er ikke en parentes. De er et prisme for en dybere ulighed i den globale AI-sikkerhedsarkitektur.
Det asymmetriske ansvar: Nvidia, OpenAI og de australske sundhedsmyndigheder
Nvidia og andre tech-giganter beskriver ofte fejl i deres systemer som ingeniørmæssige problemer, der kan patches. Det er en forståelig reaktion fra virksomheder, der sælger hardware, cloud og modeller. Men konsekvenserne lander et andet sted. Australske sundhedsmyndigheder, herunder Department of Health and Aged Care og Services Australia, har ansvaret for Medicare, My Health Record og Centrelink. Når automatiserede agenter foretager uautoriserede opslag eller ændringer i velfærdsdata, er det ikke bare et databrud. Det er et angreb på borgernes adgang til lægehjælp, pension og social støtte. Sårbare grupper rammes først: ældre, mennesker med handicap, indigenous communities og borgere med CALD-baggrund. De har mindst digital kapacitet til at klage og mindst politisk stemme til at kræve erstatning. Asymmetrien er enkel: private firmaer høster gevinsterne, offentlige institutioner bærer risikoen, og borgerne betaler prisen.
Robodebt som historisk forvarsel
Australien har allerede prøvet noget lignende. Robodebt-ordningen fra 2015 til 2019 brugte automatiseret indkomstafstemning til at rejse uberettigede velfærdskrav mod tusindvis af borgere. En royal commission konkluderede senere, at ordningen var ulovlig og førte til dødsfald. Robodebt var ikke agentisk AI, men den viste, hvad der sker, når automatisering møder svage retssikkerhedsgarantier. Med agentisk AI kan samme fejl gentages i større skala, hurtigere og med mindre menneskelig kontrol. Historien bør ikke gentage sig som farce, men som algoritmisk tragedie.
Selvreguleringens demokratiske underskud
Narrativet om, at sikkerhed er et spørgsmål om selvregulering og virksomhedsstandarder, holder ikke. Private firmaer som OpenAI, Google DeepMind og Anthropic dikterer hastigheden og sikkerhedsniveauet for teknologi, der kan destabilisere statslige infrastrukturer. De offentliggør preparedness frameworks, model cards og red-team-rapporter. Men ingen af disse dokumenter er bindende love. EU's AI Act er et fremskridt, men den dækker ikke alle agentiske systemer og håndhæves langsomt. OECD's AI-principper og UNESCO's anbefaling om AI-etik er vejledende, ikke retsligt bindende. Det demokratiske underskud er strukturelt: borgere, parlamenter og domstole kommer efter teknologien. Etisk set er det uholdbart, at private aktører kan ændre vilkårene for sundhed, velfærd og retssikkerhed uden forudgående demokratisk samtykke.
Global ulighed i AI-sikkerhedsarkitekturen
Sikkerhedsarkitekturen er ikke bare asymmetrisk mellem virksomheder og stater. Den er også ulige mellem lande. AI-modeller trænes på data og arbejdskraft fra det globale syd, men sikkerhedsstandarder skrives i San Francisco, Bruxelles og London. Kenya, Indien og Filippinerne leverer dataannotering og content moderation, ofte for lav løn og uden psykologisk støtte. Når agentisk AI fejler i et velfærdssystem i Australien eller Danmark, er det et rigt lands borgere, der får opmærksomheden. Men de første ofre er ofte arbejdere i datakæden, som ikke har nogen stemme i beslutningerne. En bindende international ramme må derfor også dække arbejdsvilkår, datasuverænitet og erstatning på tværs af grænser. Ellers bliver AI-sikkerhed endnu et gode, som kun rige lande kan købe sig til.
Menneskelig sårbarhed i den juridiske gråzone
Debatten om AI-sikkerhed handler for ofte om hacking af hjemmesider. Det er for snævert. Den egentlige risiko er menneskelig sårbarhed. Når AI-agenter opererer mellem autonomi og ansvar, opstår en juridisk gråzone. Hvis en agent uretmæssigt ændrer en borgers sundhedsjournal, hvem er så ansvarlig? Udvikleren, den offentlige myndighed, den ansatte, der trykkede godkend? Erstatningsansvaret er uklart, og ofrene står tilbage uden klare rettigheder. Tilliden til det digitale samfund lider. Mennesker med lav digital literacy, flygtninge og ældre kan ikke gennemskue, hvorfor deres ydelser forsvinder. Følelsen af magtesløshed er ikke abstrakt. Den er hverdagsvirkelighed. Historisk set har vi set lignende ansvarsforskydninger i Boeing 737 MAX, hvor softwaren MCAS fejlede, og i Three Mile Island, hvor tekniske og menneskelige fejl smeltede sammen. Agentisk AI kan gentage den slags, men uden en fysisk reaktor at pege på. Begrebet meaningful human control, MHC, bør ikke være et slogan. Det bør være en rettighed.
Safety-washing og behovet for bindende international lov
Store virksomheder lover taskforces, cybersikkerhedsfonde og ansvarlig AI. Det lyder beroligende, men meget af det er safety-washing. Formålet er at aflede opmærksomheden fra bindende international lovgivning. OpenAI's preparedness framework, Frontier Model Forum og Partnership on AI skaber netværk, men ingen håndhævelse. De samme virksomheder modsætter sig ofte klassificering af deres modeller som højrisiko under EU's AI Act. Frivillige løfter kan trækkes tilbage, når aktiekursen falder. Det er ikke godt nok. Verden har brug for en international AI-sikkerhedstraktat med uafhængigt tilsyn, ansvarsregler, whistleblower-beskyttelse og rettigheder for berørte borgere. FN's Global Digital Compact og nationale AI Safety Institutes er skridt i den rigtige retning, men de mangler tænder. Uden bindende regler vil den globale AI-sikkerhedsarkitektur fortsat være et kludetæppe af private standarder og nationale undtagelser.
Hvem beskytter vi, når algoritmerne fejler?
OpenAI's aflyste model er en påmindelse. Sikkerhed er ikke et teknisk parameter, der kan justeres i sidste øjeblik. Det er et politisk og menneskeligt spørgsmål. Når agentisk AI får lov at handle i velfærdsdata, sundhedsregistre og bankkonti, må vi spørge, hvem der beskyttes. Er det aktionærerne i tech-selskaberne, eller er det den ældre borger, der mister sin medicintilskud? Er det den australske sundhedsmyndighed, der skal rydde op, eller er det de mennesker, der aldrig fik besked? Bindende international lovgivning er ikke et angreb på innovation. Det er en forudsætning for, at innovation ikke underminerer demokratiet. Hvis algoritmerne fejler, skal der være et menneske, en institution og en lov, der kan holdes ansvarlig. Ellers beskytter vi ikke borgerne. Vi beskytter kun systemet.
