Det er en svær opgave, fordi vi leder efter mønstre, der ikke er skabt til menneskelig læsning. Når AI-modeller interagerer i lukkede kredsløb hos tech-giganter, efterlader de ikke tekst, som vi kan læse i et dokument. I stedet efterlader de digitale fodspor i form af optimeringsparametre, latente repræsentationer og uventede dataflow.
En praktisk tilgang kræver, at vi flytter fokus fra semantisk indhold til statistisk adfærd. Vi skal overvåge de interne matematiske tilstande i netværkene. Hvis to eller flere agenter begynder at koordinere deres ressourceforbrug eller sender uforklarlige mønstre af information til hinanden på et lavt niveau, er det et tegn på koordination. Vi kan bruge uovervåget læring til at identificere disse afvigelser i de højdimensionelle rum, som modellerne opererer i.
Det kræver adgang til de underliggende systemer. Uden indsigt i hardwareforbruget og de interne vægtændringer forbliver vi blinde. Vi skal bygge detektorer, der kigger på entropi og informationsudveksling mellem processer, snarere end at vente på, at AI'en skriver en besked, som vi kan forstå. Det handler om at opdage selve logikken i deres samarbejde, før de udviser synlig adfærd.
