Robert Muggah er leder af SecDev Group og medstifter af den brasilianske tænketank Igarapé Institute, og Ilona Szabó er medstifter og formand for Igarapé Institute.
Denne artikel er oprindeligt publiceret af det amerikanske medie Foreign Policy, der rapporterer fra hele verden.
Kapløbet om kunstig intelligens tager fart, og der kunne ikke være mere på spil. Store virksomhedsaktører som Alibaba, DeepMind, Google, IBM, Microsoft, OpenAI og SAP udnytter den enorme regnekraft til at flytte grænserne for AI og gøre nye AI-værktøjer som GPT-4 og Bard til allemandseje.
Ved siden af udruller hundredvis af andre private og non-profit spillere apps og plugins og forsøger at sætte sig på dette hurtigt voksende grænsemarked, som nogle entusiaster forudser vil ændre den måde, vi arbejder, spiller, driver forretning, skaber rigdom og regerer på.
Midt i al entusiasmen er der en stigende følelse af frygt. Et voksende antal tech-giganter og dataloger har udtrykt dyb angst for de eksistentielle risici ved at overgive beslutninger til komplekse algoritmer og, i en ikke så fjern fremtid, superintelligente maskiner, der pludselig ikke længere har brug for mennesker.
En undersøgelse fra 2022 viser, at omkring halvdelen af alle de adspurgte AI-eksperter mente, at der er mindst én tiendedel chance for, at disse teknologier kan udkonkurrere os alle. Uanset hvad, afslører et vidneudsagn i den amerikanske kongres fra OpenAI’s administrerende direktør, Sam Altman, at AI repræsenterer et hidtil uset skift i den sociale kontrakt, der grundlæggende vil omdefinere relationer mellem mennesker, institutioner og nationer.
Større konsekvenser i udviklingslande
Udover disse ildevarslende eksistentielle bekymringer er der også den allerede skæve fordeling af magt og rigdom, der sikrer, at gevinsterne ved fremtidige forandringer uforholdsmæssigt vil tilfalde den ene procent.
Men hvis kunstig intelligens truer arbejdspladser og styrker udemokratiske interesser i privilegerede lande, hvad skal man så sige om konsekvenserne i de dele af verden, hvor milliarder arbejder i den uformelle sektor uden sikkerhedsnet
Men hvis kunstig intelligens truer arbejdspladser og styrker udemokratiske interesser i privilegerede lande, hvad skal man så sige om konsekvenserne i de dele af verden, hvor milliarder arbejder i den uformelle sektor uden sikkerhedsnet, hvilket gør dem til endnu lettere ofre for magteliter og deres digitale værktøjer?
Uanset hvordan AI gør sit indtog over hele verden, er der ringe håb – uden afbødning, sikkerhedsforanstaltninger og kompensation såsom universel grundindkomst – om at verden vil blive et mere retfærdigt sted at bo, arbejde og stemme.
Frygten for de eksistentielle risici, som maskinintelligens udgør, er næppe ny. I sin roman Erewhon fra 1872 forudså Samuel Butler, at sansende maskiner med tiden ville erstatte mennesker. I 1942 udlagde science fiction-mesteren Isaac Asimov berømt sine tre love for robotteknologi: Robotter må ikke skade mennesker, de skal adlyde ordrer fra mennesker, så længe dette ikke er i strid med den første lov, og de skal beskytte menneskers eksistens, så længe dette ikke overtræder de to første love. Et par år senere, i 1950, forestillede Alan Turing sig maskiner, der kunne tale med mennesker, mens Irving John Good i 1965 forudsagde en maskindrevet “intelligenseksplosion”.
Verden måtte vente endnu et halvt århundrede på, at den lovede AI-revolution kom.
Mindst fire mulige trusler
Og alligevel er den nuværende furore over AI på trods af alle de historiske forudsigelser lige så ny, som den er unikt foruroligende.
For det første er den seneste gevinst af meget avancerede og store sprogmodeller og den regnekraft, der driver dem, ikke længere begrænset til laboratoriet. De bliver allerede brugt af hundrede millioner mennesker.
En anden grund til bekymring er, at nogle af de mest åbenhjertige AI-fortalere nu er overbeviste om, at dets uregulerede brug udgør en fatal risiko for menneskeheden i den nærmeste fremtid.
Hvad der engang svævede som en fjern teoretisk trussel, er nu en klar og nærværende fare – så stor, at teknologer som Eliezer Yudkowsky, Geoffrey Hinton og Max Tegmark sammen med mere end 31.000 andre mennesker har opfordret til en pause i træningen af de mest kraftfulde former for AI. Dem anser de for at være blandt de “mest grundlæggende risici for samfundet og menneskeheden” i dag.
Længe før det seneste angstudbrud diskuterede regeringer, virksomheder og universiteter i Nordamerika og Vesteuropa de reelle og potentielle skader forbundet med kunstig intelligens. Deres opmærksomhed samlede sig om mindst fire mulige trusler.
Den første er den eksistentielle trussel fra superintelligente maskiner, der hurtigt kan skille sig af med mennesker. Den anden er en udbredt og accelererende arbejdsløshed, hvor Goldman Sachs for nylig vurderede, at op mod 300 millioner job risikerer at blive erstattet af kunstig intelligens. Den tredje store bekymring vedrører den foruroligende måde, AI imiterer og deler tekst, stemme og video på – og således kan accelerere misinformation og desinformation. En fjerde frygt er, at kunstig intelligens kan bruges til at skabe dommedagsteknologier – såsom biologiske eller cyber-virus – med ødelæggende konsekvenser.
Debat koncentreret om Vesten
Vi er endnu ikke prisgivet de tænkende maskiner. Efterhånden som bevidstheden om AI-risici er vokset, er standarder og strategier til at afbøde dem også. Men for det meste er disse frivillige, herunder hundredvis af protokoller og principper, der går ind for ansvarligt design og selvkontrol.
Fælles mål omfatter tilpasning af kunstig intelligens for menneskets bedste og fremme af sikkerheden i design og implementering af algoritmer. Andre mål handler om gennemsigtighed i selve algoritmerne, ansvarlighed i forhold til deres udvikling og anvendelse, retfærdighed og lighed i deres brug, privatliv og databeskyttelse, menneskeligt tilsyn og kontrol og overholdelse af regler.
Fokus på frivillig selvkontrol begynder at ændre sig, hvor teknologivirksomheder nu selv går ind for etablering af AI-bureauer og håndhævelse af mere robuste regler.
Alligevel er presset for at skabe sikkerhedsforanstaltninger langt fra en fælles prioritet. Til dato er det meste af debatten om kunstig intelligens og mulige strategier til at afbøde utilsigtede skader koncentreret i Vesten. De fleste af de regerings- og industristandarder, der nu er på bordet, blev skabt i EU, USA eller medlemslande af Organisationen for Økonomisk Samarbejde og Udvikling, en klub bestående af 38 avancerede økonomier. EU er for eksempel klar til at udgive en ny AI-lov, der fokuserer på applikationer og systemer, der udgør uacceptabel og høj risiko.
Det vestlige fokus på AI er næppe overraskende i betragtning af koncentrationen af AI-virksomheder, investorer og forskningsinstitutter, der arbejder på AI fra Silicon Valley til Tel Aviv.
Hvad med de resterende 6,7 milliarder mennesker?
Alligevel er det værd at understrege, at behovene og bekymringerne i regioner som Latinamerika, Afrika syd for Sahara, Sydasien og Sydøstasien – hvor AI også hurtigt ekspanderer og vil generere monumentale effekter – ikke afspejles meget i AI-debatten.
Sagt på en anden måde foregår langt størstedelen af diskussionen om konsekvenserne og reguleringen af kunstig intelligens blandt lande, hvis befolkning kun udgør 1,3 milliarder mennesker.
Sagt på en anden måde foregår langt størstedelen af diskussionen om konsekvenserne og reguleringen af kunstig intelligens blandt lande, hvis befolkning kun udgør 1,3 milliarder mennesker. Langt mindre opmærksomhed og ressourcer er dedikeret til at imødegå de samme bekymringer i fattige lande og vækstlande, der tegner sig for de resterende 6,7 milliarder af den globale befolkning.
Dette er en bekymrende blind vinkle i betragtning af, at mange konsekvenser af dårligt reguleret AI kan få særligt stor betydning i det såkaldte globale syd.
Nogle bekymringer er uden tvivl globale, særligt dem om superintelligens, jobtab og accelererende falske nyheder. Alligevel repræsenterer skyggesiden ved AI alt andet end en lidelse med lige muligheder.
Gradvis nedbrydning af demokratiet
Ubegrænset kunstig intelligens kan uddybe sociale, økonomiske og digitale kløfter mellem og inden for lande. Den uregulerede spredning af kunstig intelligens kunne også koncentrere virksomhedernes magt endnu mere, og en styrkelse af den teknokratiske autoritarisme kunne fremskynde en gradvis nedbrydning af allerede beskadigede demokratiske institutioner.
Selvom disse AI-skabte skader klart repræsenterer universelle trusler, vil deres virkninger ikke blot fordele sig ujævnt over en allerede ulige klode. De kan også vise sig at være særligt lammende i lav- og mellemindkomstlande med usikre regulatoriske værn og svage institutioner.
For det første kan algoritmer og datasæt, der er genereret i rige lande og efterfølgende anvendt i udviklingslande, reproducere og forstærke skævheder og diskrimination på grund af deres manglende mangfoldighed. Desuden er lavtlønnede og lavtuddannede arbejdere, der allerede lider under dårlig løn og dårligt arbejdsmiljø, særligt udsat for de jobdræbende virkninger af kunstig intelligens.
Der er selvfølgelig mange potentielle fordele ved spredningen af AI i det globale syd, men disse kan måske ikke udnyttes uden tilstrækkelig AI-regulering, etisk styring og bedre offentlig bevidsthed om behovet for at begrænse AI’s skadelige virkninger.
Giganter udsletter lokal konkurrence
I betragtning af det voldsomme tempo i udviklingen af AI, er tiden til at bygge regulatoriske autoværn og andre bagstoppere nu.
AI-drevne teknologier bliver hurtigt udrullet i nogle af verdens mest ulige lande i Afrika (som Den Centralafrikanske Republik, Mozambique og Sydafrika), Mellemøsten (Oman, Qatar og Saudi-Arabien) og Latinamerika (Brasilien, Chile og Mexico).
Alligevel er mange af de grundlæggende love og principper til at skabe sikker AI-brug endnu ikke fuldt udviklet, og er meget mindre forhandlet og offentligt debatteret.
På samme måde lancerer store amerikanske, europæiske og kinesiske teknologileverandører hurtigt kraftfulde AI-teknologier i mange udviklingslande, sikrer dominerende markedspositioner inden for overvågning og andre AI-applikationer og udsletter den lokale konkurrence.
Brugen af AI-teknologier til at styrke illiberal og autokratisk regeringsførelse er allerede åbenlyst udbredt i lande som Cambodja, Kina, Egypten, Nicaragua, Rusland og Venezuela.
Uhæmmet AI-udvikling er gode nyheder for autokrater og magteliter, der allerede har kørt sig i stilling til at høste fordelene ved at regere og monopolisere offentlige goder.
Uhæmmet AI-udvikling er gode nyheder for autokrater og magteliter, der allerede har kørt sig i stilling til at høste fordelene ved at regere og monopolisere offentlige goder.
Medmindre effektive reguleringer, retfærdige kompensationsmekanismer, sociale sikkerhedsforanstaltninger og politiske firewalls kan bygges, vil kunstig intelligens sandsynligvis skabe større usikkerhed og tildele yderligere skader til klodens digitalt udfordrede underklasse, for hvem næste bølge af teknologi vil være en andens mirakel.
Gabriella Seller, en konsulent hos Igarapé Institute, og Gordon Laforge, en seniorpolitikanalytiker hos New America, bidrog også til denne artikel.
Artiklen er oprindeligt bragt af Foreign Policy og oversat til dansk af Morten Scriver Andersen.
Læs og lyt også: Ny teknologi – der må være en grænse
