Spørgsmålet rammer ned i en central konflikt inden for tech-verdenen. Når tech-giganter og forskere taler om eksistentielle risici ved en fremtidig superintelligens, flyttes fokus mod noget, der ligger langt ude i fremtiden. Det er abstrakte scenarier, som de færreste kan kontrollere eller forudsige. Samtidig overses de meget konkrete, menneskelige omkostninger, som den nuværende AI-udvikling kræver her og nu.
Bag de polerede algoritmer findes en enorm mængde usynligt arbejde. Folk i det globale syd sidder ofte med de laveste lønninger og de hårdeste opgaver. De sorterer i voldeligt eller traumatiserende indhold for at gøre modellerne sikre for os andre. Denne proces kaldes datamærkning, men i praksis handler det om billig arbejdskraft i lande med svage arbejderrettigheder. Ved at gøre diskursen filosofisk og teknisk kan de ansvarlige undgå at tale om de faktiske arbejdsforhold og den globale ulighed, som deres forretningsmodel hviler på.
Det er en effektiv måde at skifte dagsordenen fra etik og retfærdighed til teknisk sikkerhed. Når vi diskuterer, om maskinerne får bevidsthed, glemmer vi at spørge, hvem der bliver udbyttet for at træne dem. Det er ikke nødvendigvis en koordineret sammensværgelse, men resultatet af en prioriteringsliste, hvor teknologisk prestige vejer tungere end social retfærdighed.
