Man kan let få den fornemmelse, at nye teknologier er noget, der kommer af sig selv. Lidt ligesom vejret. Det kan være godt eller dårligt, men det er ikke noget, vi som mennesker har indflydelse på. På samme måde med en række af de teknologier, der har indflydelse på vores hverdag, så er de der bare, og vi må tilpasse os. Skal jeg have regnjakke på? Nåh, jeg skal logge ind med MitID? Det er tilsyneladende ikke nogen, der har bestemt, at det er sådan. Sådan er det bare…. blevet.

Sådan kan det også føles med generativ kunstig intelligens. En dag var det her. Det kan være forskelligt, hvornår den enkelte har følt, at det var her for at blive brugt. Mennesker lever typisk lidt tidsforskudt afhængig af job, alder, arbejde, interesser osv. Men som teknologi har generativ kunstig intelligens nu en ikke ubetydelig indflydelse på vores liv, blandt andet fordi nogle (evt. offentlige institutioner) i vores omgivelser bruger det i relation til os.

Men med generativ kunstig intelligens gælder det, at der ligger valg og ikke-valg bag udviklingen af teknologien. Det er temaet i den bog, Mark Sinclair Fleeton har skrevet: “Denne bog hedder AI – Det store valg netop, fordi vi har et valg om, hvad det er for en fremtid, vi ønsker os – hvad det er for et samfund, vi ønsker os” (s. 9). For Fleeton er det den demokratiske udvikling af samfundet, der er afgørende. Og her kan man sige, at de store tek-firmaer har en negativ indflydelse, fordi deres produkter ikke er en del af det, som man nødvendigvis er med til at have medbestemmelse til.

Når Microsoft, Amazon eller OpenAI udvikler produkter, så er de globalt tilgængelige. Men almindelig lovgivning holder sig typisk inden for nationalstatens grænser, selvom der også finder en vis overstatslig regulering sted. Den overstatslige regulering er dog svækket, da den ikke nødvendigvis er bindende i alle lande, og så den er nem at omgå for dem, der har tilstrækkelig med magt og indflydelse.

Alligevel fastholder forfatteren, at det giver mening at gøre anvendelsen og udviklingen af teknologi som generativ kunstig intelligens til et demokratisk anliggende. Og han foreslår nogle meget konkrete ting, man som demokratisk samfund kan gøre. Dels er der naturligvis den enkeltes valg. Jeg bestemmer jo selv, om jeg vil bruge generativ kunstig intelligens. Og hvis jeg vil, bestemmer jeg også i min private liv, om jeg vil bruge ChatGPT, Deepseek, le Chat, Lumo eller en helt femte.

Men man kan også gøre noget gennem de institutioner, som et samfund kan etablerer med henblik på at styre og kontrollere, at samfundet fungerer på en måde, som vi som befolkning finder bedst ud fra de principper om medbestemmelse, som vi har til rådighed. Konkret foreslår Fleeton en digital ombudsmand med teknisk indsigt, så funktionen kan udfyldes med tilstrækkelig kompetence.

“Et [andet] tiltag kunne være et etisk råd for AI, der er sammensat af eksperter, borgere og måske også politikere [...] Andre måder kunne være brugerråd eller borgerpaneler, der løbende kan spørges til råd. [...] Et tredje forslag kunne være en uafhængig klageinstans for algoritmisk uretfærdighed” (s. 158). Der er ikke noget galt med disse forslag. De er i øvrigt også på linje med anden litteratur om demokratisk kontrol af techgiganter som eksempelvis Skaug Sætra og ikke mindst Coeckelbergh, som Kapellet tidligere har anmeldt. Fleetons fremstilling kunne have fået en hel del mere dybde, hvis han havde inddraget den litteratur, der i forvejen findes om forholdet mellem teknologi og demokrati.

Bogen er inddelt i 12 kapitler plus et appendix. Jeg har ikke helt forstået meningen med at henvise dele af forfatterens refleksioner til appendix, da de lige så godt kunne integreres i bogens øvrige kapitler. Hvilket nogle af dem også allerede er.

I de første fire kapitler fremstilles en grundlæggende forståelse for teknologien: generativ kunstig intelligens. Det er dog en kilde til forvirring, at forfatteren ofte blot skriver AI, så det bliver uklart, om fremstillingen handler om al teknologi inden for den store AI-hat, eller om det gælder mere specifikke dele af AI-området. Der er eksempelvis stor forskel på, hvordan billeddiagnostik med AI fungerer set i forhold til billedgenerering ud fra en tekst-prompt.

Bogen er også uskarp i sin præsentation af teknologien. Eksempelvis hedder det: “Hvis vi starter helt fra bunden, så er den mest grundlæggende byggesten i AI data. Det vil sige viden” (s. 15). Men data er ikke viden. Data kan samles til information, som så kan danne baggrund for viden. Hvis man sætter data lig med viden, risikerer man også helt at misforstå, hvad genereret output er for en størrelse.

Senere hedder det i bogen “AI’s evne til at analysere store mængder data gør det i stand til at komme med præcise forudsigelser, og det kan bruges i beslutningsprocesser i erhvervslivet og i offentlige institutioner” (s. 60). Dette illustrerer fint usikkerheden om, hvad der er på tale. Citatet indgår i et afsnit, der indledes med “AI og særligt generativ AI har allerede betyder ændringer i vores samfund”, hvilket er med til, at det kan være vanskeligt at bestemme, hvad der ligger i at komme med ”præcise forudsigelser”.

Desuden er det forkert! AI er ikke i stand til at komme med præcise forudsigelser. Denne forestillinger er det, forfatterne Arvind Narayanan & Sayash Kapoor kalder for snakeoil; altså et markskrigerisk skønmaleri sat i gang af producenter af AI-produkter eller af andre, der deltager i at hype teknologien. Alle forudsigelser af AI bygger på en fremskrivning af tidligere hændelser, og det drejer sig derfor om sandsynligheder og under forudsætning af, at der ikke er noget, der ændre sig; altså: alt andet lige. AI er ikke spådomskugler, som kan angive, hvad der vil ske i fremtiden. Hvis ai’en i en selvkørende bil kunne komme med præcise forudsigelser af, at den ville køre galt, så skulle den jo slet ikke køre, hvilket så ville betyde, at forudsigelsen ikke var en forudsigelse.

Efter denne første del kommer der tre kapitler, som handler om, hvordan man kan tænke fremtiden (og nutiden) ud fra forskellige scenarier om udviklingen af AI (eller generativ AI). Som med så mange andre af denne slags ‘fiktion om et samfund med en bestemt teknologi’ forekommer de mig helt ligegyldige. De er projektioner af nutiden, der ikke tager højde for, at mange ting ændrer sig relationelt. Når der står ”forestil dig at…”, så bliver jeg lidt træt.

Inden for utopien genfinder man en tanke, der går igen i meget hype om, hvad generativ kunstig intelligens vil betyde inden for uddannelsesområdet, nemlig den store betydning af personaliseret læring. “Elever og studerende vil have adgang til AI-tutorer, der er tilpasset til den enkeltes niveau, læringsstil og interesser” (s. 82). Denne forestilling trækker på en særlig forestilling om læring, hvor det handler om at få adgang til en bestemt viden. Men læring er så meget mere og andet end adgang. Det handler om relationer og viden i samspil med anden viden, med andre og om bestemte kontekster. Man kan ikke, som forfatteren, reducere læring til personlig adgang til noget.

Og det er faktisk lidt underligt, at ideen om personalisering dukker op i spørgsmålet om viden og uddannelse, da Fleeton har et godt og kritisk blik på andre former for personalisering, som netop virker som underminering af demokratiet. “En stigende automatisering af arbejdsopgaver og processer truer med at reducere mennesker til datapunkter og fælles værdier som tillid, medborgerskab og åbenhed udskiftes med optimering og personalisering” (s. 129)

De sidste kapitler handler om regulering og demokratisering for at ende med kapitlet: ”Valget er vores” (s. 182). I disse kapitler diskuteres blandt andet forskellen mellem en amerikansk, kinesisk og europæisk tilgang til teknologi, innovation og demokrati. Her er Fleeton klart nok på europæernes side, fordi der i Europa er fokus på teknologi set i et menneskerettighedsperspektiv og dermed også på en vis demokratisk kontrol.

Fleeton har dog også fat i en kritik af EU’s AI-forordning, og han peget på, at man måske bedre kan beskytte borgerne gennem konkurrencelovgivningen. Når man ser problemet med techgiganter som en “koncentration af udvikling og værditilvækst på få hænder med risiko for dannelsen af et teknofeudalt system, så er svaret på, hvad den mest effektive regulering er, ikke så svært. Så er det konkurrencelovgivningen, der vil sikre spredning af velstand og hindre centralisering af magt og udvikling på få techgiganter” (s. 166). Jeg er ikke sikker på, at dette er nok. Forfatteren nævner som nævnt også en række andre forhold, der kan virke som et demokratisk bolværk mod techgiganterne.

Der er mange udmærkede betragtninger om forholdet mellem (generativ) kunstig intelligens og demokrati i bogen. Men den virker også meget spredt, og mange steder går den ikke tilstrækkeligt i dybden. Det er også som om spørgsmålet om demokrati til tider falder i baggrunden, og hvor den selv bliver mere teknologideterministisk.

“Ved hjælp af AI kan vi udligne ulighed i samfundet. Vi kan arbejde målrettet med at forbedre klimaet og vi kan støtte læring og sundhed” (s. 183), Dette giver udtryk for en underlig forestilling om forholdet mellem teknologi og politisk styring. Hvis det var vigtigt med mere lighed og demokratisk adgang til uddannelse, så er det et politisk valg. Ikke et spørgsmål om teknologi.

Dette gentages, når det fremgår, at medarbejderne ”skal tilpasse sig et anderledes arbejdsmarked og en anderledes form for arbejde og arbejdsplanlægning” (s. 135). Her er det teknologien, der sætter præmisserne, og der er ikke meget om demokratisk indflydelse. Her understøtter teknologien den allerede eksisterende magt. Noget som forfatteren selv også peget på andre steder, som når det hedder: “Udviklingen mod et teknofeudalt samfund er en spejling af et samfund, hvor vi ser stigende ulighed på mange fronter, stigende individualisering og global magtkoncentration. Og AI ikke bare spejler disse tendenser. AI er med til at forstærke dem” (s. 129).

Det er uklart og forvirringen kan også skyldes, at formålet med bogen ikke er helt klart for forfatteren. Jeg har været inde på, at det er det potentielle demokratiske underskud, der er bogens formål at belyse. Men bogen peger også i en helt anden retning. “Fremtiden skabes af de beslutninger og de valg, vi træffer. Eller ikke træffer…. Derfor giver det mening at opstille en vision for en fremtid. Det er imidlertid ikke formålet med denne bog. Det, der derimod er formålet med bogen, er at vise dig mulighederne for et bedre samfund, som AI giver” (s. 98).

– Så er det jo ikke så sært, at man bliver forvirret som læser!