Et nej fra Washington, et brev fra San Francisco
I efteråret 2023 og igen i 2024 bad OpenAI og Anthropic om noget usædvanligt for private virksomheder: bindende internationale regler for avancerede AI-modeller. Brevene foreslog fælles testprotokoller, licensordninger og grænser for, hvor meget regnekraft en træningskørsel måtte bruge. Den amerikanske regering afviste at lægge sig fast på multilaterale rammer. Hvad der står tilbage, er nationale regler og frivillige tilsagn, formuleret i Washington, Bruxelles, London og Beijing.
Aviserne læste afvisningen som et opgør mellem sikkerhed og geopolitik: de ansvarlige laboratorier på den ene side, stormagtsinteresser på den anden. Den læsning overser en tredje part. De lande, der hverken ejer modellerne, datacentrene eller stemmerne i forhandlingslokalet, får konsekvenserne uden at være med til at skrive dem.
Hvem sidder egentlig ved bordet i FN?
FN's rådgivende organ for AI, nedsat i 2023, havde 38 medlemmer. De afgørende beslutninger blev ikke truffet der. Global Digital Compact, den globale digitale pagt, blev vedtaget i september 2024 sammen med en resolution i Generalforsamlingen. Begge er ikke-bindende. UNESCO's anbefaling om AI-etik fra november 2021 blev underskrevet af 193 stater og har samme status: et dokument, ikke en forpligtelse.
Forskellen i forhandlingskapacitet er konkret og målbar. En delegation fra Malawi eller Bolivia møder typisk op med en eller to personer, der også dækker klimatopmøder og handelsforhandlinger. Den amerikanske delegation har tekniske rådgivere fra NIST, State Department og nationale sikkerhedsorganer. Standarder bliver ikke skrevet af dem, der taler længst, men af dem, der har råd til at blive i lokalet længe nok.
Testfelter uden stemmeret
En stor del af den usynlige arbejdskraft bag de store sprogmodeller sidder i Nairobi, Kampala, Caracas og Manila. Ved træningen af ChatGPT's indholdsflitre blev kenyanske arbejdere ansat gennem underleverandøren Sama til at læse og kategorisere voldelige og seksuelt grænseoverskridende tekster. Lønnen lå omkring 1,3 til 2 dollar i timen, ifølge de undersøgelser, journalister og forskere offentliggjorde i 2023. Flere beskrev psykiske skader efter måneders eksponering.
Det er ikke et isoleret tilfælde. Dataarbejde er blevet en eksportvare i lande med lav løn og høj arbejdsløshed. Arbejderne mærker konsekvenserne af modeller, de ikke har indflydelse på, og som sjældent forstår deres sprog. Af verdens cirka 7.000 sprog har under ti procent nogen brugbar maskinunderstøttelse. Resten er usynlige for systemerne, og det er en politisk beslutning, ikke en teknisk nødvendighed.
Sikkerhed som adgangsbarriere
De foreslåede tærskler er konkrete tal. Den amerikanske bekendtgørelse 14110 satte fra oktober 2023 grænsen ved 10^25 FLOP for træningskørsler, der krævede rapportering. EU's AI-forordning bruger samme størrelsesorden for systemisk risiko. Kun en håndfuld laboratorier i verden kan nå den grænse. Det er pointen, og det er også problemet.
Krav om ekstern revision, red-teaming, dokumentation og sikkerhedstest koster millioner. For OpenAI og Anthropic er det en driftsudgift. For et universitet i Bangalore eller en open source-gruppe i São Paulo er det en mur. Når de samme aktører, der kan betale for overholdelse, samtidig advarer om eksistentiel risiko, fungerer sikkerhedsargumentet også som markedsbeskyttelse. Forskere kalder det regulatory capture: regulering, der formelt gælder alle, men reelt kun lukker nye ind.
Standarder har altid været magtmidler
I 1884 mødtes 25 lande i Washington for at fastlægge nulmeridianen. De europæiske kolonimagter talte på vegne af territorier, hvis befolkninger ikke var inviteret. Greenwich vandt, og resten af verden fik et koordinatsystem, den ikke havde forhandlet. Den Internationale Telegrafunion, grundlagt i 1865, fordelte frekvenser og kabelforbindelser efter samme logik.
Mønstret gentog sig med TRIPS-aftalen i 1994, der tvang lande til at indføre vestlig patentlovgivning. Da Sydafrika i 1997 forsøgte at producere billige kopier af hiv-medicin, sagsøgte 39 medicinalfirmaer staten. Sagen blev opgivet i 2001 efter internationalt pres, men først efter år med begrænset adgang til behandling. Standarder er sjældent neutrale. De fordeler rettigheder og omkostninger.
De omkostninger, der ikke kaldes eksistentielle
Debatten om eksistentiel risiko handler om et hypotetisk fremtidsscenarie: en model, der vender sig mod menneskeheden. I mellemtiden foregår der en omfordeling af arbejde og indkomst, som allerede er i gang. Kundeservice, oversættelse, regnskab og simpel softwareudvikling er de opgaver, der først bliver automatiseret, og de udgør en stor del af beskæftigelsen i Filippinerne, Indien, Kenya og Colombia.
Business process outsourcing tegnede sig i 2023 for omkring 8 procent af Filippinernes bruttonationalprodukt og beskæftigede over 1,5 millioner mennesker. Der findes ingen overgangsordning, ingen omskoling finansieret af dem, der høster gevinsten, og ingen kompensation til de regioner, hvor arbejdsmarkedet tømmes. Den slags regnes ikke som eksistentiel risiko. Den regnes ikke rigtig som noget.
Hvad en anden proces kunne se ud som
En demokratisk ramme kræver mere end koordinering mellem laboratorier og stormagter. Den kræver bindende forpligtelser med klagemuligheder, teknologioverførsel og adgang til regnekraft som en fælles ressource, ikke et privat monopol. Den kræver finansiering af sprogdata i lavressource-sprog, og den kræver, at lande får ret til at bestemme over egne data og egne arbejdsmarkeder.
Afrikas andel af verdens datacenterkapacitet ligger omkring en procent. Uden infrastruktur, uddannelse og forhandlingsstyrke bliver deltagelse et spørgsmål om at underskrive andres dokumenter. Det er ikke medbestemmelse.
Spørgsmålet, der ikke forsvinder
Når OpenAI og Anthropic beder om globale standarder, og Washington siger nej, ser det ud som en konflikt. Set fra Nairobi eller Manila ligger de to positioner tættere på hinanden, end de selv indrømmer. Begge antager, at reglerne bliver skrevet i et lille antal hovedstæder, og at resten af verden tilpasser sig. Det spørgsmål, læseren bør stille, er ikke, hvem der vinder opgøret i Washington. Det er, hvem de foreslåede standarder egentlig tjener, og hvem der betaler, når de ikke bliver vedtaget.
