Nyheden blev formuleret enkelt. OpenAI stiller sit Daybreak-system til rådighed for ukrainske myndigheder, så cyberforsvarere hurtigere kan finde huller i egne netværk og lukke dem, før nogen udnytter dem. Rammen er velkendt: et amerikansk teknologiselskab donerer kapacitet til et land i krig, og det hele pakkes ind i vendingen »force multiplier«. Det er også her, den første regning gemmer sig. Et værktøj, der kan finde en sårbarhed, afgør ikke selv, hvem der må læse svaret.
Hvad Daybreak faktisk laver i ukrainske netværk
Daybreak er ikke et våben i gængs forstand. Det er en model, der læser kode, protokoller og konfigurationer og peger på steder, hvor et system kan brydes. I praksis betyder det scanning af industrielle kontrolsystemer, såkaldt ICS og SCADA, samt de OT-netværk, der styrer transformatorstationer, vandpumper og fjernvarme. Ukrainske ingeniører har siden 2015 levet med angreb målrettet netop disse lag: BlackEnergy, Industroyer, Industroyer2, og Sandworm-gruppen, som vestlige efterretningstjenester knytter til Ruslands militære enhed 74455. NotPetya i 2017 kostede globale forsikringsselskaber milliarder. Viasat-hacket i februar 2022 slog kommunikationen ud timer før invasionen. Et system, der kan finde den næste af slagsen i tide, er derfor ikke luksus.
Dobbeltbrugen: samme sårbarhed, to læsere
Her begynder problemet. En sårbarhed er ikke en genstand, man kan låse inde. Den er en beskrivelse, og en beskrivelse kan kopieres. Når Daybreak identificerer et hul i et ukrainsk elsystem og leverer en patch, findes der i samme øjeblik et dokument, der forklarer, hvordan hullet så ud. Det dokument ligger hos en amerikansk virksomhed, hos ukrainske embedsmænd og i de logfiler, modellen selv producerer. Ingen af disse steder er immune over for kompromittering. Spørgsmålet er ikke, om dobbeltbrug er en teoretisk risiko. Det er den strukturelle betingelse for hele værktøjet.
Når kapaciteten samtidig »demokratiseres«, altså gøres tilgængelig for flere aktører i en aktiv krigszone, vokser antallet af hænder omkring den. Ukrainske frivillige hackergrupper, private sikkerhedsfirmaer, lokale IT-leverandører og regionale el-operatører arbejder alle under tidspres. Erfaringen fra offentliggørelsen af CVE-databaser viser, at afstanden mellem patch og exploit ofte måles i dage. I fredstid er det en dårlig nyhed. Under luftalarmer er det en tidsindstillet mekanisme.
Data som betaling
Jamie MacColl fra tænketanken RUSI har beskrevet udvekslingen som »data for defense«. Formuleringen er præcis. Ukrainske netværk er ikke som testmiljøer i en kælder i San Francisco. De indeholder rigtige angreb, rigtige modtræk og rigtige fejl, og de producerer telemetri, som ingen syntetisk model kan efterligne. Denne telemetri er værdifuld. Den forbedrer modellens evne til at genkende mønstre, til at forudsige angrebstyper og til at sælge sig selv til næste kunde.
Man kan kalde det et partnerskab. Man kan også kalde det en ekstraktion, hvor betalingen er i naturalier: I får softwaren, vi får virkeligheden. Ukrainske myndigheder har ikke mange kort på hånden. De skal bruge værktøjerne nu, ikke om tre år, når licensvilkårene forhandles på ny. Det gør landet til noget nær det ideelle forskningsfelt for en teknologi, der endnu ikke er færdigudviklet, og hvor resultaterne først viser sig, når strømmen forsvinder.
Hvem svarer, når algoritmen fejler?
Forestil dig et hospital i Kharkiv i januar. Minus tolv grader. Strømmen kommer fra et system, hvor et AI-drevet forsvar løbende vurderer trafik og blokerer, hvad der ligner et angreb. En fejl i vurderingen, eller en angriber, der forklæder sig som legitim trafik, kan lukke en forbindelse, der holder ventilatorer og dialysemaskiner i gang. Ingen besluttede det. Ingen skrev det ned.
Folkretten har svar på mange ting. Den har distinktionsprincippet, proportionalitetsprincippet og regler om statsansvar. Tallinn-manualen beskriver, hvornår et cyberangreb udgør magtanvendelse. Men der findes ingen tilsvarende ramme for et privat klassifikationssystem, der fejler i et offentligt netværk. Ansvarskæden hedder sjældent noget entydigt: En model tog en beslutning på baggrund af data, som en operatør havde godkendt med en indstilling, som en leverandør havde sat som standard. Ingen af dem står i en retssal i Haag.
Suverænitet for dem uden forhandlingsmagt
Ukraine er ikke det eneste land, der tilbydes gratis hjælp. Kenya, Indonesien, Filippinerne og en række stater i Centralasien står med samme valg: tag imod vestlig cyberkapacitet, eller stå alene. De har ikke EU's forhandlingsvægt, ikke Nato-paraplyen, ikke egne modelmiljøer. Når et værktøj er gratis i første fase, er prisen i anden fase ikke nødvendigvis penge. Den kan være adgang til data, til infrastruktur eller til udenrigspolitiske beslutninger, man ellers ville træffe selv.
Spredningen af avancerede værktøjer er ikke neutral. Den ændrer magtbalancen mellem dem, der definerer standarden, og dem, der blot bruger den. For en udviklingsøkonomi kan et »doneret« sikkerhedssystem ende som en afhængighed, der er sværere at opsige end et lån.
Fn-talen og generatorstøjen
På FNs generalforsamling lyder det ens hvert år. Cyberspace skal være frit, stabilt og sikkert. Normer skal overholdes. Virksomheder skal tage ansvar. CEO'er taler om ansvarlig udvikling, om røde linjer og om mennesket i centrum, mens teknikere i Kyiv lytter efter lyden af en nødgenerator, der ikke starter. Afstanden mellem de to rum er ikke retorisk. Den måles i sekunder, hvor et kølesystem til blodbanker mister strøm.
Harvest-ideen om »rogue« AI-agenter er heller ikke science fiction. Det er snarere et spørgsmål om, hvor mange beslutninger man har lagt ind i et system, som ingen længere kan læse i realtid. En autonom agent, der handler hurtigere, end et menneske kan godkende, gør det samme, som en luftværnsautomatik gjorde i 1983: den forkorter afstanden mellem tvivl og konsekvens.
Et nyt lag af menneskelig skade
Pointen er ikke, at Ukraine bør afvise hjælpen. Pointen er, at hjælpen ikke er gratis, og at regningen ikke betales af dem, der implementerer den. AI-drevet krigsførelse tilføjer et lag af usikkerhed oven på en konflikt, der i forvejen er brutal. Det lag rammer først og hårdest dem, der ikke har strøm nok til at løbe en model, ikke har advokater nok til at rejse et krav, og ikke har mulighed for at sige nej.
