Da Harry mødte Sally er titlen på en film fra 1989. Filmen er mest kendt for en scene, der udspiller sig i en restaurant, hvor filmens Sally meget overbevisende simulerer en orgasme. Men det er ikke så meget det, denne anmeldelse handler om, men mere det spørgsmål, der åbner sig med titlen på filmen Da Harry mødte Sally.

Hvad så?

Det handler om mødets anatomi. Hvad ligger der i et møde, og ikke mindst: Hvilke forpligtelser ligger der for mødets hovedpersoner? Hvad betyder det, når en prompt møder et output? Tja, det lyder jo lidt banalt og ikke noget at tale om. Men sådan er det – og med mange rigtigt gode grunde – ikke for Sune Selsbæk-Reitz, der har skrevet bogen Promptism. Fluent machines, Forgotten Questions, and the Fight for Meaning in the Age of AI.

Bogen handler om mange ting, men et bærende argument i bogen er, at mødet mellem prompt og output dybest set handler om moral og etik. Der er noget mere end en simpel udveksling på spil; og ja, det handler også om det ægte overfor det simulerede og kunstige, om det så er orgasmer eller intelligens.

Bogens udgangspunkt er en konstatering af, at mennesker er “creatures of ease”, så vi foretrækker det, vi kan komme nemt til. Det handler om at spare på energien. Det gælder også i vores forhold til sprog. Hvis noget er nemt at forstå, flydende og velformuleret, så tillægger vi det automatisk større værdi og har en tendens til at opfatte det som mere rigtigt; mere sandt.

“This phenomenon has a name: processing fluency. It’s the psychological bias that makes well-presented information feel more true” (s. 7). Og det er ofte den type sprog, man møder med et output genereret af en chatbot.

Den helt store fare ved brugen af chatbots er, at deres sprog er forførende, så man let forveksler det velformulerede med det rigtige og sande. Og det smitter, så der er også en fare for, at vi mennesker begynder at formulere sig på samme måde, hvorved evnen til kritisk tænkning stille og roligt eroderer.

  Bogens første tre kapitler, som udgør dens første del, er samlet under overskriften: The fluency trap, hvilket også er baggrunden for bogens titel Promptism. Denne neologisme er en betegnelse for at forveksle det velformulerede output fra en chatbot med et rigtigt svar; en forståelse eller en forklaring man kan stole på. “My idea of promptism begins in the gap between how a system sounds and what a system knows. In the gap between confidence and truth” (s. 2). Det velformulerede og selvsikre output fremstår med en autoritet, der let kan forveksles med udtryk for en vidensmæssig forankring.

Forfatteren kommer ind på tre fælder, som vi er psykologisk disponerede for at falde i. Den første er, at vi ofte forveksler sproglig performance med forståelse. Men den velformulerede sproglige fremstilling bliver netop sådan ved at udelukke tvivl, usikkerhed, tavshed og pauser. “Fluency shortcuts doubt, but doubt is essential to thinking” (s. 9).

Den anden fælde ligger i at forveksle sammenhæng med sandhed. Den sammenhængende forklaring bliver opfattet som rigtig. Men output er netop ikke bundet af en sandhed. Chatbots trækker ikke på videnskilder, men sandsynlighedsberegner sammenhænge af ord på baggrund af mønstre i digitalt behandlet sprog. Output kan derfor godt simulere at give svar og forklaringer, men vil altid også bestå af unøjagtigheder. Når disse outputs bliver brugt i offentlig kommunikation resulterer dette i en forurening af hele infosfæren “through the frictionless spread of nearly correct information” (s. 12).

Den tredje fælde ligger i forveksling af, at det, der er velformuleret, også er velbegrundet, på trods af, at output ikke er forankret viden. Derfor er et output heller ikke begrundet – uanset hvor overbevisende det lyder.

Den ultimative fælde ligger i at tage et output som et slutpunkt; et endemål for det, man søger at forstå eller få svar på. “Why should we even bother to pause when the answer is already here? This is the ultimate trap” (s. 202).

Som det fremgår er Selsbæk-Reitz interesseret i den betydning for viden, forståelse og erkendelse, som chatbots eller anvendelsen af store sprogmodeller kan få. Han diskuterer derfor også, hvordan vi overhovedet kan forstå viden. Her peger han på en moderne opfattelse af viden, der hænger sammen med den videnskabelige eller i det mindste vidensbaserede dialog.

Viden etableres som fælles forståelser, men grundlaget er hele tiden, at viden er usikker. Viden kan udfordres gennem nye indsigter, andre perspektiver eller anvendelsesområder. I arbejdet med viden, må man hele tiden tage forbehold for, hvor langt den konkrete viden rækker. Viden, tænkning og tvivl hænger sammen. Derfor er viden og forståelse dialogiske processer, hvor man forholder sig til den viden, andre har fremstillet. Viden eksisterer ikke i et tomrum, men er relationelt forbundet til andre fremstillinger, andre perspektiver og andre anvendelsesområder.

Men sådan er det ikke med outputs fra chatbots. Her står outputtet for det første uden en afsender. Der er ikke et subjekt; en forfatter man kan spørge om, hvordan et standpunkt kan begrundes. Man kan heller ikke efterspore, hvordan et udsagn hænger sammen med andre udsagn om det samme genstandsområde. Et output står alene og lyder samtidig selvsikkert og autoritativt. Autoritet og forfatter hænger etymologisk sammen. Begge henviser til ophavsperson eller skaber. Der er et sted eller rettere en instans, der forankrer et udsagn. Outputs er principielt uden forfatter og uden autoritet. Men bliver ofte brugt som om, de besidder begge dele.

At viden bygger på anden viden gør ikke vidensbaserede udsagn ufejlbarlige. Tværtimod. Fremstilling af viden beror på fejlbarlighed og usikkerhed. Output fremstår dog aldrig som fejlbarlige og usikre. Selvom man kan få output til at skifte ved at prompte, så udtrykker outputtets form samme autoritative selvsikkerhed. Der er ingen forståelse i et output, heller ikke af, at det kan sige både ét og det modsatte med samme selvfølgelighed. Forfatteren taler her om, at output mangler den ydmyghed, som kendetegner menneskelig tænkning.

“Truth has never been just about accuracy. It has always been about traceability […] the challenge before us is to defend traceability as an epistemic virtue” (s. 41 og 45), siger forfatteren. Og her lader han forstå, at vi faktisk kan gøre noget ved det, han har diagnosticeret som et af de store udfordringer ved brugen af chatbots. Vi skal forsvare den vidensmæssige dyd, der består i, at et udsagn om verden (viden) kan spores, så man kan se, hvordan det indgår i en dialog om fælles forståelse af verden. Vidensudsagn er ikke selvberoende, men afhængig af, at de indgår i sammenhæng med andre udsagn; og at de kan siges imod og diskuteres. At de skal begrundes. Derfor er forfatteren også en stor tilhænger af fodnoter, da de viser hen til den dialogiske proces, hvor man tilslutter sig noget, mens man modsiger eller perspektiverer noget andet. Viden væves gennem denne uendelige dialog, hvor der aldrig sætter et endegyldigt punktum.

I del to diskuterer Selsbæk-Reitz tænkningens vilkår i simulationens tidsalder. Langt hen ad vejen er det en fortsættelse af diagnosen med en mindre forskydning. “Just as we mistake fluency for truth, we mistake closure for accuracy” (s. 62) siger han og peger på “closure bias”. Fortællingen etablerer en sammenhæng og fører den til en endelig konklusion. Det er den traditionelle narrative form, som gælder både for fiktionen, nyhedshistorien og den videnskabelige redegørelse.

Der er forskel på venlighed (kindness) og høflighed (politeness). Hvor venligheden anerkender den anden som ligeværdig og værd at forholde sig til, der sikrer høflighed den gode stemning; den er friktionsfri. Hvor venligheden er korrigerende og dermed udviklende, ophøjer høflighed stilstand til norm; her skal ikke investeres noget.

Der er andre udfordringer for tænkningen som eksempelvis forudsætningen om uenighed og debat, som er en form for friktion, som er nødvendig for tænkningen, men som forsvinder i outputs, ligeså gør modstand og grænsesætninger, der er afgørende for et fællesskab og for et demokratisk samfund. Man kan ikke engang sige, at en chatbot hævder noget, der kan indgå i en meningsfuld udveksling. Chatbots “don’t assert claims, they generate continuations” (s. 150).

I sidste del af bogen fremstiller Selsbæk-Reitz, hvad han betragter som nødvendige korrektiver til de faldgruber, han har demonstreret i bogens første to dele. Ved at trække på Kant og Arendt fremstiller forfatteren det etiske grundlag for et møde mellem en prompt og et output. Der ligger en etisk fordring i at komme med en fremstilling. Selvom han har sagt, at et output ikke er et “claim” fritager det ikke outputtet i etisk sammenhæng, da outputtets form er et resultat af den måde, chatbotten er designet på.

“Every interface teaches us how to think. A search engine teaches us that knowledge is retrieval. A social feed teaches us that relevance is popularity. A predictive model teaches us that fluency is the same as understanding” (s. 123). Derfor må modellerne også tage et ansvar på sig. Forfatteren afviser etisk AI, da det mere bliver til hensigtserklæringer og policies. I stedet er der brug for at anerkende teknologiens etiske ansvar, som blandt andet betyder, at de ikke må komme med outputs, der lyder autoritative og sikre, hvis der ikke er grundlag for det. De må ikke være flydende og sammenhængende i deres output, hvis den virkelighed, de viser hen til, ikke blot kan forstås flydende og sammenhængende. Vidensarbejde kræver dyd eller måske rettere: pligt. Det kræver åbenhed om usikkerhed og tvivl – og om det grundlag det bygger på.

Forfatteren taler om, at modeller skal leve op til “deontologiske designprincipper”. Deontologi handler om pligtetik og er hentet fra Kants morallære. Her er pligt forbundet med fornuften, hvilket blandt andet betyder afvisning af instinkt og begær. Frihed for Kant handler om at disciplinere umiddelbare behov, så man ikke er slave af dem; altså ufri. Man må gøre sig fri. Og her er pligten afgørende. Det er denne logik, forfatteren overfører til teknologisk design.

Da mødet med et output er et etisk anliggende må outputtet styres af en pligt til at møde promptet med respekt. Selsbæk-Reitz opstiller fem søjler, som skal være styrende for design af chatbots:

Trustworthy
Explainable
Equitable (places limits on personalization)
Human Oversight
Moral Continuity (s. 171-175)

Et andet princip er den pligt, man har som bruger: “User Obligation” (s. 152). Det handler om, at man har pligt til at gøre chatbots ansvarlige for deres outputs. “User Obligations… [are] about making systems answerable. They ask: regardless of who built the system, trained it, or deployed it, what duties arise the moment it speaks with apparent authority?” (s. 152).

For forfatteren handler det om, at brugeren ikke har det fulde ansvar, men har pligt til at kræve en opfyldelse af en tilsvarende pligt af den afsenderløse afsender af et output.

Det kan i høj grad diskuteres, om dette er den rigtige vej at gå. Selvom det er sympatisk at ville kræve ansvarlighed, ydmyghed og tvivlende afventning af chatbots, så er det et spørgsmål, om det giver mening. Ikke primært i forhold til, at de dominerende chatbots produceres af kyniske virksomheder. Men snarere om analysen af den pligtetiske fordring er korrekt. Som Selsbæk-Reitz viser igen og igen, så er output uden afsender, og de kommer heller ikke om påstande om forhold i verden. De genererer sammenstillinger af ord, der står uden relation til det, de tilsyneladende siger noget om.

Men netop kun tilsyneladende. For at få et output til at handle om verden (viden eller moral), så kræver det brugerens projektion af intention i outputtet. Det må også gøre noget ved “mødet”.

Når Selsbæk-Reitz opstiller etiske krav til outputs, så giver han maskinen mere menneskelig credit, end de fortjener. Jeg er klar over, at han peger på designet, og pligten derfor ligger mange andre steder (distribueret), hvilket han også gør rede for. Men principielt, tror jeg, at kravet er stillet forkert, selvom jeg er enig i, at der skal stilles krav til de chatbots, der sendes på markedet.

Jeg tror i øvrigt mere på en anden dimension, han også peger på. Nemlig en ny ´literacy´, der styrker læsningen af maskinen som maskine; at have kendskab til dens funktionsmåde gennem en særlig måde at læse på. En læsning der fordrer, at man forstår, at den mening, der ligger i et output er en projektion fra brugeren. Brugeren kan vælge at gøre et output til sit. Men det kræver, at hele den moralske vægt lægger på brugeren. Dette er ganske vist noget Selsbæk-Reitz selv afviser som et krav, der blot fjerne det ansvaret designet af modellerne.

Det er en superinteressant bog, Selsbæk-Reitz har skrevet. Og han har skrevet den i en særlig form, der hele tiden svinger mellem den analyserende redegørelse og det essayistiske og aforistiske. Det betyder, at den gode formulering sommetider står i stedet for den minutiøse analyse, men det gør bogen til en god læseoplevelse. Den sætter tankerne og tænkningen i gang hos læseren. Og det er jo bogens formål. Det handler ikke om enighed, men om friktion: “We think we’re still doing research, but what we’re really doing is just autocompletion” (s. 27). Tag den!