Udfordringen ligger i, at teknologien rykker hurtigere end lovgivningen. Når OpenAI eller Google slipper agenter løs, som kan træffe beslutninger eller interagere med borgere, opererer de i et juridisk tomrum uden et folkevalgt mandat. Vi kan ikke nøjes med at vente på, at virksomhederne udviser selvregulering. Det har historien vist, før.
Løsningen kræver en kombination af benhård regulering og tekniske standarder. EU's AI Act er et vigtigt første skridt, da den kategoriserer systemer efter risiko. Men vi har brug for mere specifikke mekanismer, når agenter begynder at handle autonomt. Det indebærer krav om 'explainability' – altså at en algoritmes beslutningsproces skal kunne efterprøves af mennesker. Hvis en agent begår en fejl, skal ansvaret placeres entydigt hos den juridiske enhed bagved, uanset hvor kompleks koden er.
Vi bør desuden indføre krav om sandhedsvidne-lignende logning af agenters interaktioner. Det fungerer lidt ligesom en sort boks i et fly. Hvis en agent skaber skade eller diskriminerer, skal myndighederne kunne auditere forløbet med det samme. Demokratisk kontrol handler i sidste ende om at sikre, at magten over de digitale infrastruktur-værktøjer forbliver underlagt samfundets fælles regler, ikke blot virksomhedernes profitmaksimering.
