Når en algoritme fejler, er konsekvenserne sjældent blot tekniske fejlmeddelelser. For en person, der lever af små, digitale opgaver, kan en pludselig nedjustering af synlighed eller en fejlagtig kontoophør betyde, at der ikke er penge til husleje eller mad næste måned. Det skaber et direkte behov for, at platformene tager ansvar for de menneskelige omkostninger ved deres systemer.
Platforme har et ansvar for at indbygge menneskelig kontrol i deres processer. Det er ikke nok at henvise til en automatiseret beslutning, når et livsgrundlag trues. Der skal findes hurtige og gennemsigtige klageadgange, som ikke kræver en juridisk embedseksamen at navigere i. Hvis en algoritme tager fejl, skal der være en mekanisme, der hurtigt genopretter den tabte indtjening.
Det handler om at anerkende den asymmetriske magtbalance. Platformen ejer koden, men brugeren bærer risikoen. Ved at implementere sikkerhedsnet, der beskytter de mest sårbare mod systemiske fejl, flytter man fokus fra ren effektivitet til etisk drift. Virksomheder bør betragte deres algoritmer som kritiske infrastrukturer, der kræver samme form for forsigtighed som el- eller vandforsyning.
