Hvilke konkrete tekniske svagheder i avancerede AI-modeller som Astra udgør den største risiko for databeskyttelse og national sikkerhed?
De største trusler stammer primært fra teknikker som prompt injection og data poisoning. Ved prompt injection kan en angriber manipulere modellens instruktioner via tekst, hvilket får den til at ignorere sine sikkerhedsfiltre. Dette kan føre til lækage af fortrolige oplysninger eller generering af skadelig kode. Det er ikke bare teoretisk; det er en direkte vej til at omgå de værn, udviklere bygger ind i systemet.
Data poisoning rammer selve fundamentet. Hvis ondsindede aktører formår at infiltrere de datasæt, som modellen trænes på, kan de indbygge
