For at flytte fokus fra hypotetiske dommedagsscenarier til den virkelighed, folk oplever lige nu, kræves der benhårde, praktiske krav. Det handler ikke om abstrakte filosofiske debatter, men om at regulere de algoritmer, der allerede sorterer i vores låneansøgninger, screener os til jobs eller overvåger os i det offentlige rum.
Først skal vi have lovpligtige krav om konsekvensanalyser vedrørende fundamentale rettigheder (Fundamental Rights Impact Assessments). Det betyder, at virksomheder skal bevise, at deres systemer ikke diskriminerer på baggrund af køn, etnicitet eller handicap, før de overhovedet må rulle teknologien ud. Vi har brug for uafhængige tilsynsmyndigheder med reel magt til at udstede bøder og kræve systemer lukket ned med det samme, hvis de skader marginaliserede grupper.
Desuden er gennemsigtighed ikke nok i sig selv; vi skal have adgang til auditering. Det vil sige, at tredjeparts-eksperter skal kunne kigge direkte ind i de matematiske vægte og datasæt, der driver de mest følsomme AI-modeller. Hvis en algoritme fejlbedømmer en borger i et socialt system, skal der findes en klar klagevej, hvor et menneske kan overtrumfe maskinens beslutning. Vi skal stoppe med at gætte på fremtiden og begynde at kontrollere de algoritmer, der styrer nutiden.
