En debat i luftkasteller
I San Francisco, London og København kører debatten om kunstig intelligens i to spor. Det ene spor advarer om menneskehedens undergang. Det andet spor griner ad undergangen som science fiction. Begge spor overser de mennesker, der allerede bærer teknologien på deres skuldre. For en dataetiketteringsarbejder i Nairobi er spørgsmålet ikke, om en superintelligens udsletter menneskeheden. Spørgsmålet er, om hun får løn for de seks timer, hun har brugt på at se voldelige videoer, så en sprogmodel kan blive bedre til at svare på dansk. Eksistentialisme er blevet en luksus, som techindustrien har råd til. Den flytter opmærksomheden væk fra konkrete skader: arbejdsudbytning, overvågning, bias og miljø.
Eksistentialisme som afledningsmanøvre
Når store laboratorier som OpenAI, Google DeepMind og Anthropic taler om eksistentiel risiko, taler de sjældent om de risici, der allerede er dokumenteret. De taler om en fremtidig AGI (Artificial General Intelligence), der måske vender sig mod os. Denne ramme er bekvem. Den gør laboratorierne til ansvarlige vogtere af menneskeheden, samtidig med at de udvider deres markeder uden lovgivningsmæssige konsekvenser. Spørgsmålet om udslettelse er spekulativt og kan ikke reguleres. Spørgsmålet om løn, vandforbrug og ansigtsgenkendelse kan reguleres. Ved at centrere debatten om dommedag undgår selskaberne at svare på, hvorfor deres modeller bygger på underbetalte arbejdere i det globale syd, eller hvorfor deres datacentre tørrer lokalsamfund ud. Den eksistentielle ramme er ikke neutral. Den er en politisk teknologi, der beskytter forretningsmodellen.
Arbejdet bag modellerne: RLHF og dataetikettering
RLHF (Reinforcement Learning from Human Feedback) er en teknisk forkortelse for et meget menneskeligt arbejde. For at en model som ChatGPT skal opføre sig ordentligt, skal mennesker rangordne tusindvis af svar. Det arbejde udføres ofte i Kenya, Uganda, Indien, Filippinerne og Venezuela. Arbejderne får mellem 1 og 3 dollars i timen. De ser børnemisbrug, voldtægt, selvmord og ekstremisme, så modellen kan lære at undgå det. Flere har fået PTSD. I 2023 sagsøgte content moderators i Nairobi Facebooks ejer Meta og leverandøren Sama for psykiske skader og dårlige arbejdsvilkår. RLHF er den nye Taylorisme: opgaver opdeles i små bidder, overvåges af software, og arbejderne er løsarbejdere uden fagforening. Nogle har dannet African Content Moderators Union. Men de fleste er usynlige i debatten om AI-sikkerhed. De er ikke en del af den menneskelige faktor i AI. De er den menneskelige faktor.
Overvågning: Når privatliv bliver en betalingsvare
AI gør overvågning billig og skalerbar. Clearview AI har skrabet milliarder af ansigtsbilleder fra internettet uden samtykke. Pegasus-spyware bruges mod journalister og aktivister. I Danmark har politiet forsøgt sig med ansigtsgenkendelse, og EU's AI Act forbyder kun i begrænset omfang realtids-biometri i det offentlige rum. Samtidig bruger private virksomheder algoritmer til at score kunder, ansatte og borgere. Den eksistentielle debat handler om, hvorvidt en AI vil dræbe os. Den handler ikke om, at AI allerede gør det lettere at overvåge danske muslimer, klimaforkæmpere eller fagforeningsfolk. Chilling effect er reel: når folk ved, at de bliver set, ændrer de adfærd. GDPR findes, men håndhævelsen er svag. Artikel 22 forbyder automatiske afgørelser med retsvirkning, men mange kommuner og styrelser bruger stadig risikoscoring. Det er ikke hypotetisk. Det er daglig praksis.
Algoritmisk bias: Når forskelsbehandling automatiseres
Algoritmer arver historiske uligheder. COMPAS-systemet i USA gav sorte tiltalte højere risiko for tilbagefald end hvide for samme forbrydelse. Amazons rekrutteringsværktøj nedgraderede kvinders CV'er, fordi det var trænet på mandsdominerede data. Obermeyer et al. viste i 2019, at et sundhedsalgoritme tildelte sorte patienter mindre behandling end hvide med samme behov. I Danmark har beskæftigelsessystemet eksperimenteret med risikoscoring af ledige, og kommuner bruger data til at forudsige, hvem der bliver langtidsledige. Sådanne systemer automatiserer systematisk racisme og klassebias. De gør diskrimination til en teknisk parameter. AI-sikkerhedsbevægelsen taler sjældent om dette. Den taler om alignment i en fjern fremtid. Men alignment med hvem? Og for hvem? Bias er ikke en fejl i data. Det er en funktion af magt.
Miljøregningen for massive beregninger
Store sprogmodeller kræver enorme mængder elektricitet og vand. GPT-3's træning menes at have udledt omkring 552 tons CO2e og brugt op mod 700.000 liter vand. Chatbots bruger vand ved hver forespørgsel. Datacentre i Arizona, Chile og Irland lægger pres på lokale vandressourcer. Microsofts vandforbrug steg med 34 procent fra 2021 til 2022, og Google har også haft stigninger. Regningen betales af lokalsamfund, ofte i det globale syd, hvor mineraler til chips udvindes under farlige forhold. Cobalt fra DR Congo, lithium fra Chile. E-waste sendes til Ghana og Indien. Den eksistentielle debat ignorerer klimakrisen. Teknologiske optimister siger, at AI nok skal løse klimaproblemet. Men computeforbruget stiger hurtigere, end effektiviseringer kan følge med. Miljøet er ikke en eksternalitet. Det er en del af regnestykket.
Teknologisk determinisme: Det sker bare
AI-sikkerhedsbevægelsen hviler ofte på en antagelse om teknologisk determinisme: at teknologisk udvikling er uundgåelig og kun kan styres efter, at den er sat i gang. Det er den samme logik, som tidligere industrialiseringer brugte. Da børn arbejdede i engelske fabrikker i 1800-tallet, sagde fabriksejerne, at det var nødvendigt for konkurrenceevnen. Først efter massive sociale kampe kom Factory Act i 1833, Ten Hours Act i 1847 og senere arbejdsmiljølovgivning. I Danmark kom Septemberforliget i 1899 og arbejdsmiljøloven efter årtiers konflikt. Arbejderbeskyttelse blev ikke givet frivilligt. Den blev taget. AI følger samme mønster. Først udbredelse, så skader, så oprør, så regulering. Men vi kan vælge en anden rækkefølge. Vi kan kræve konsekvensanalyser, dataindsigt, mindsteløn i leverandørkæder og grænser for compute. Det kræver, at vi holder op med at spørge, om AI dræber os alle, og begynder at spørge, hvem der ejer den, hvem der arbejder for den, og hvem der betaler prisen.
Hvem taler for hvem?
Debatten om AI domineres af folk i San Francisco, London og København. De stiller spørgsmål som: Will AI kill us? De mest berørte stiller andre spørgsmål. Dataetiketteringsarbejdere spørger om løn og psykologisk tryghed. Fanger og klienter i velfærdssystemet spørger om algoritmisk retfærdighed. Klimaflygtninge spørger om vand og jord. De er ikke med i debatten. Deres bekymringer er ikke science fiction. De er eksisterende risici. Vi behøver ikke afvise, at eksistentiel risiko er mulig. Vi behøver bare sige, at den ikke er den eneste. Accountability versus abstraction er den virkelige akse. Abstraktion beskytter laboratorierne. Accountability kræver navne, tal og konsekvenser. Det kan lovgives. Det kan måles. Det kan kræves.
Ikke alle AI-arbejdere tror, teknologien kan dræbe os alle. Mange har ikke tid til at spekulere i det. De er i gang med at overleve teknologien. Spørgsmålet er ikke, om AI en dag udsletter menneskeheden. Spørgsmålet er, om vi fortsætter med at lade den udhule menneskelig værdighed, arbejde og global magtfordeling. Det spørgsmål kan besvares nu. Det andet kan vente.
