Algoritmen som dommer uden ansigt
Det startede med et par slidte sandaler til to pund. Men for Emma Neil blev de to pund startskuddet til en digital eksklusion, hun ikke kunne omstøde. Hendes konto på genbrugsplatformen Vinted blev lukket permanent, fordi systemet vurderede, at hun forsøgte at sælge kopivarer. Det er en alvorlig anklage, uanset om der er tale om dyre mærkevarer eller billigt fodtøj. Sagen er dog ikke en enlig svale, men snarere et tegn på en systemisk fejl i den måde, den moderne platformøkonomi fungerer på.
Når platforme som Vinted når millioner af brugere, er manuel gennemgang af hvert opslag umulig. Løsningen er automatisering, hvor kunstig intelligens fungerer som den primære moderator. Algoritmen scanner billeder, priser og tekst for at spotte svindel eller kopivarer, men problemerne opstår, når matematisk logik rammer virkeligheden. En algoritme forstår ikke nuancer; den ser blot en lav pris og en bestemt tekst og kategoriserer det med det samme som mistænkelig adfærd.
Det skaber et retssikkerhedsmæssigt vakuum. Bliver man fejlagtigt flagget, ender man ofte i en blindgyde af automatiserede svar. Man skriver til supporten og modtager blot en standardiseret meddelelse, der gentager den oprindelige beslutning. Der er ingen dialog. Man kan ikke fremvise en kvittering eller forklare, at de to pund blot var en fejlpris eller et forsøg på at skille sig af med gammelt legetøj. Algoritmen dømmer, og dommen er endelig.
Prisen for mikro-indtjening
Det er let at affeje disse sager som bagateller, hvis man kun bruger appen for sjov. Men for en voksende gruppe er Vinted ikke en hobby; det er en nødvendighed. I takt med at økonomien bliver mere platformbaseret, er mange lavindkomstgrupper blevet afhængige af småindtjening fra genbrugssalg for at få enderne til at mødes. Når en konto spærres uden varsel, mister de ikke bare adgang til en app, men en lille, men livsvigtig indtægtskilde.
Denne økonomiske sårbarhed gør algoritmens fejl endnu mere uretfærdige. For en person med en stabil økonomi er en fejlagtig udelukkelse måske bare et tabt salg af en trøje. Men for en enlig forælder eller en studerende, der lever af at sælge småting for at få råd til mad eller transport, kan en permanent ban være et økonomisk slag, de ikke har råd til. Systemet er designet til at beskytte platformens omdømme og minimere svindel, men det sker på bekostning af de mest pressede brugere.
Statistisk succes mod menneskelige fejl
Vinted selv udtaler, at størstedelen af de millioner af brugere har positive oplevelser. Det er et skoleeksempel på, hvordan gennemsnit kan skjule systematiske fejl. Hvis 99 % af brugerne er glade, ser årsrapporten flot ud. Men de sidste 1 % – de tusindvis af brugere, der bliver uretmæssigt udelukket – ender som statistisk støj. De forsvinder i de store tal, selvom deres oplevelse er en konkret og personlig katastrofe.
Statistisk succes vs. menneskelig fejl
Websitet vintedfaces.com er opstået som et desperat modtræk. Her samler de forurettede deres historier i et digitalt vidnesbyrd mod en platform, der prioriterer skalerbarhed over retfærdighed. Når professionelle sælgere bliver lukket midlertidigt uden grund, eller når almindelige mennesker bliver stemplet som svindlere over et par sandaler, afslører det en fundamental ubalance i magtforholdet mellem platformen og den enkelte bruger.
Beskyttelse af profit eller beskyttelse af brugere?
Man kan argumentere for, at Vinted er nødt til at være benhård for at bekæmpe kopivarer og bevare tilliden til markedet. Hvis folk tror, de køber falske varer, dør platformen. Men her opstår dilemmaet: Hvor går grænsen mellem effektiv moderation og vilkårlig udelukkelse? Når det er dyrere at ansætte nok moderatorer til at håndtere alle klager end hvad det koster at miste nogle brugere, vælger virksomheden den billige løsning. Det er simpelthen mere rentabelt at lade nogle uskyldige blive udelukket frem for at ansætte en hær af mennesker til at gennemgå hver eneste sag.
Det er den rå virkelighed i den algoritmiske økonomi. Effektivitet vægter tungere end retfærdighed. Økonomiske interesser i at holde driftsomkostningerne nede og undgå juridiske slagsmål med store varemærker trumfer de etiske hensyn til den enkelte bruger. Det skaber et system, der fungerer glimrende for dem, der følger reglerne, men som er nådesløst mod dem, der lever i systemets sprækker.
