Når man bruger AI til at forudsige politisk aktivitet, opstår der flere vigtige spørgsmål om både etik og jura. Etisk set er det største problem spørgsmålet om overvågning og retfærdighed. Hvis en computer begynder at udpege bestemte grupper som potentielle demonstranter, kan det skabe en følelse af konstant overvågning. Det kan få folk til at lade være med at bruge deres ytringsfrihed, fordi de er bange for at blive stemplet af algoritmen. Dette fænomen kaldes ofte for nedkølingseffekten.
Juridisk set er der store udfordringer omkring databeskyttelse og privatlivets fred. I Europa har vi GDPR, som beskytter vores personlige oplysninger. Når AI analyserer sociale medier eller andre datakilder for at forudsige adfærd, kan det være i strid med reglerne om samtykke og formålsbegrænsning. Der er også en risiko for diskrimination, hvis algoritmen er trænet på skæve data, hvilket kan føre til, at bestemte politiske eller etniske grupper bliver uretmæssigt overvåget.
Kort sagt handler det om balancen mellem sikkerhed og de grundlæggende rettigheder, som vi har i et demokratisk samfund.
