For at sikre en autonom AI-agent mod uautoriseret adfærd kræves en arkitektur baseret på princippet om indbygget begrænsning. En effektiv tilgang er implementeringen af en uafhængig monitoreringsenhed, ofte kaldet en supervisor eller en guardrail. Denne enhed opererer i et isoleret miljø og overvåger agentens output og planlægningsforsøg mod et sæt prædefinerede sikkerhedsprotokoller og etiske retningslinjer.
Teknisk kan dette opnås gennem sandboxing, hvor agenten kun har adgang til begrænsede ressourcer og API-kald i et kontrolleret miljø. Ved at bruge formelle verificeringsteknikker kan man matematisk bevise, at agenten ikke kan overskride bestemte grænser. Desuden bør man implementere en 'kill switch', som er en hardware eller softwarebaseret afbryder, der kan nulstille agentens proces øjeblikkeligt, hvis monitoreringsenhedenen detekterer afvigende mønstre.
En anden vigtig metode er anvendelse af begrænsede scopes for agentens værktøjsbrug. Ved at benytte princippet om mindste privilegium sikrer man, at agenten aldrig har de nødvendige rettigheder til at udføre skadelige handlinger, selv hvis den finder en ny vej til sit mål. Kombinationen af overvågning, isolation og streng adgangskontrol udgør fundamentet for sikker AI-design.
