Når virksomheder som OpenAI sidder med definitionen af, hvad der udgør en 'sikker' AI, opstår der et demokratisk underskud. De baserer ofte deres retningslinjer på interne risikovurderinger, som ikke er underlagt offentlig debat eller uafhængig revision.
For at modvirke dette kræves der en flersporet indsats. For det første skal vi have uafhængige tilsynsorganer, der fungerer efter principper fra f.eks. den finansielle sektor eller medicinalindustrien. Her ville standarder ikke blive skrevet i lukkede bestyrelseslokaler, men gennem regulatoriske rammer fastsat af folkevalgte organer. EU's AI Act er et første skridt i denne retning, da den forsøger at klassificere risici og stille krav til de mest kraftfulde modeller.
Andet er behovet for åben videnskab og 'red-teaming' under offentlig kontrol. Det betyder, at uafhængige forskere skal have adgang til at teste modellerne for bias, hallucinationer og sikkerhedsbrister uden at blive mødt af handelshemmeligheder som den primære barriere. Hvis vi kun stoler på virksomhedernes egne audits, overlader vi magten over vores digitale infrastruktur til aktionærer. Demokratisk kontrol handler i bund og grund om at flytte beslutningskraften fra profitmaksimering til fælles sikkerhedsinteresser.
