Når kunstig intelligens bliver en del af vores vigtigste systemer som strømforsyning eller transport, opstår der nye udfordringer. Fordi AI kan træffe beslutninger meget hurtigt, kan en lille fejl i værste fald føre til store problemer for hele samfundet.
For at sikre os skal lovgivningen fokusere på tre hovedområder. Først er der behov for strenge krav til gennemsigtighed. Det betyder at man skal kunne forstå, hvorfor en AI træffer en bestemt beslutning. For det andet er der behov for krav om menneskelig kontrol, så et menneske altid kan gribe ind og stoppe systemet, hvis noget går galt.
Endelig er der fokus på robusthed og sikkerhed. Lovgivningen skal sikre, at AI-systemerne er testet grundigt mod fejl og angreb, før de får lov at styre kritisk infrastruktur. I EU arbejder man netop nu med AI Act, som er en stor ramme for at sikre, at teknologien bruges ansvarligt. Målet er at skabe tillid til teknologien, samtidig med at man beskytter samfundets vigtigste funktioner mod uforudsete systemiske fejl.
