Nøglen ligger i et tæt samspil mellem algoritmer og mennesker, hvor de to systemer understøtter hinanden frem for at modarbejde hinanden. Automatiserede systemer er geniale til at sortere i millioner af transaktioner og fange de åbenlyse overtrædelser med det samme. Men de rammer ofte ved siden af, når nuancer eller kontekst bliver afgørende for sagen.
En effektiv model kræver en intelligent eskalationsvej. Når en bruger appellerer en automatisk beslutning, skal systemet ikke blot sende sagen til en kø. I stedet bør algoritmen analysere appelens karakter og prioritere de mest usikre eller komplekse sager til menneskelig behandling. Ved at bruge AI til at præ-sortere de mest tvetydige sager kan man sikre, at de menneskelige moderatorer bruger deres tid der, hvor det rent faktisk gør en forskel.
Det kræver desuden gennemsigtighed i kommunikationen. Brugeren skal vide præcis, hvorfor beslutningen blev truffet, og hvad de skal gøre for at dokumentere deres sag. Hvis processen er uigennemsigtig, føles den uretfærdig, uanset hvor effektiv den er. Ved at give menneskelige eksperter de rette værktøjer til hurtigt at gennemgå de faktiske beviser, opretholder man både hastigheden og retssikkerheden.
