En nylig debat i tech-verdenen har fået lov at fylde utroligt meget. En forsker fra Anthropic, et af de førende virksomheder inden for kunstig intelligens, har leveret et estimat, der har sendt chokbølger gennem offentligheden. Vedkommende vurderer, at der er mere end 10 procents sandsynlighed for, at AI kan ende med at udrydde menneskeheden. Det er et tal, der er designet til at få pulsen op. Det taler til vores dybeste instinkter for selvopretholdelse og rejser spørgsmål om den teknologiske singularitet og superintelligens.
Dommedag som distraktion
Når vi diskuterer sandsynligheden for, at en fremtidig algoritme tager kontrollen og eliminerer os som art, bevæger vi os ind i det, filosoffer kalder 'X-risk' eller eksistentiel risiko. Det er fascinerende tænkning, men det er også en form for intellektuelt teater. Ved at fokusere på denne fjerne, hypotetiske trussel flyttes opmærksomheden væk fra de systemer, vi rent faktisk har sat i gang. Mens vi stirrer mod horisonten og venter på den robot-apokalypse, der måske aldrig kommer, overser vi de skader, der allerede finder sted i vores nuværende sociale strukturer.
Det er en bekvem distraktion for de store tech-giganter. Hvis debatten udelukkende handler om, hvordan vi undgår, at en superintelligens deaktiverer vores globale infrastruktur, så slipper vi for at tale om de mere akutte, men mindre spektakulære, problemer. Det er lettere at diskutere matematikken bag kunstig intelligens' målretning end at diskutere de politiske konsekvenser af den magt, disse systemer giver til de få, der ejer dem.
Algoritmernes usynlige bias
I stedet for at frygte en uovervåget AI, bør vi kigge på de algoritmer, der allerede dikterer, hvem der kan få et lån i banken, hvem politiet skal kontrollere, og hvem der får tilsagt en jobansøgning. Algoritmisk bias er ikke en hypotetisk fremtidsrisiko; det er en daglig virkelighed. Når data, der afspejler historisk ulighed og racisme, fodres ind i maskinlæringsmodeller, bliver diskriminationen ikke blot automatiseret – den bliver skjult bag en facade af teknologisk objektivitet.
Sociologer har længe peget på, hvordan teknologier ofte reproducerer de eksisterende magthierarkier. Når vi taler om risiko, må vi spørge: Hvilken risiko taler vi om? Er det risikoen for, at menneskeheden dør, eller er det risikoen for, at marginaliserede grupper mister deres økonomiske fundament på grund af fejlbehæftede algoritmer? Det sidste er ikke et spørgsmål om sandsynlighed, men et spørgsmål om dokumenteret virkelighed.
Ressourceforbrug og det globale syd
Udviklingen af de store sprogmodeller (LLM'er) kræver enorme mængder energi og vand til køling af datacentre. Denne infrastruktur er ikke placeret et neutralt sted. Den trækker på lokale ressourcer, ofte i områder hvor vandmangel i forvejen er et kritisk problem. Der opstår en markant ubalance, når den massive energiforbrug i det globale nord drives af behovet for at træne modeller, som de mest sårbare befolkninger i det globale syd sjældent får gavn af.
Dette er en form for digital kolonialisme. Vi høster data fra brugere over hele verden, bruger deres kulturelle produktion til at træne modellerne, og efterlader derefter de miljømæssige omkostninger hos dem, der har mindst magt til at protestere. Hvis vi virkelig bekymrer os om menneskehedens overlevelse, bør vi starte med at sikre, at teknologien ikke underminerer livsgrundlaget for de mennesker, der lever i de områder, hvor ressourceudvindingen er hårdest.
Tab af agens og beslutningskraft
Der er også et mere subtilt tab i gang: tabet af menneskelig agens. Jo mere vi læner os op ad AI til beslutningstagning – fra medicinsk diagnosticering til politiske analyser – desto mere mister vi evnen til selv at forstå og kritisere de processer, der styrer vores liv. Vi overlader de svære valg til sorte bokse, hvis beslutningsveje er uigennemskuelige, selv for dem, der har skabt dem.
Dette skaber et demokratisk underskud. Når beslutninger om velfærd, retssikkerhed og økonomi bliver flyttet fra transparente, menneskelige institutioner til uigennemsigtige algoritmer, svækkes muligheden for at holde nogen ansvarlige. Hvis en algoritme begår en fejl, hvem står så til ansvar? En softwareingeniør i Silicon Valley? En matematisk formel? Ansvarlighed kræver, at vi kan identificere en aktør, men AI gør ansvaret diffust.
Hvem definerer risikoen?
Spørgsmålet er i sidste ende: Hvem har defineret, at den største risiko er total udslettelse? Det er typisk en lille gruppe af specialister og topchefer i tech-industrien. Deres perspektiv er præget af et teknocentrisk verdenssyn, hvor den største trussel er noget, der kan løses med mere teknologi eller bedre kodesprog. Men for en landmand, der ser sit vandreservoir udtørre på grund af et datacenters kølebehov, eller en arbejder, hvis job er automatiseret væk uden sikkerhedsnet, er risikoen ikke en statistisk sandsynlighed i en fremtidig tidslinje. Risikoen er her, og den er mærkbar.
Vi må ikke lade os forføre af de store, dramatiske scenarier, der lover os en kamp mod maskinerne. Den egentlige kamp står lige nu. Den handler om retfærdig distribution af de gevinster, AI skaber, om beskyttelse af de rettigheder, der er under pres, og om at sikre, at teknologien tjener mennesker – ikke kun de få, der har råd til at ignorere de nuværende skader i jagten på en hypotetisk fremtid.
