Vygotsky er kendt for at sige noget i retning af, at man ikke ved, hvad man vil sige, før man siger det. Tanker er for Vygotsky ikke noget, der ligger inde i hjernen som noget fast, der venter på at komme ubesmittet ud. Men tanker formes og forandres af at blive sprogliggjort enten gennem indre eller ydre tale.

Forestillingen om at tanke og tale kan holdes adskilt, spejler en bestemt trope i den vestlige filosofi. Den har sit udspring hos Platon, som netop tænker i forskellen mellem essens (eller ide) og fremtræden. Den genfindes i den kristne tænkning i forholdet mellem sjæl og krop. Der er noget oprindeligt, som så får et udtryk eller bliver iklædt noget, som er en mindre værdifuld fremtrædelsesform.

Vygotskys pointe er, at denne dualisme ikke holder, men at den bygger på en fejlagtig opfattelse af forholdet mellem sprog og tænkning. Sproget er en vigtig del af tænkningen.

Dette er også udgangspunktet for John Warners bog more than words (titlen skrives med småt - red.). Han nævner ikke Vygotsky eller mange andre forløbere for hovedpointen i bogen, nemlig at skrivning er tænkning og følelse, fordi skrivning er forbundet med kropsliggjorte erfaringer. Altså en handling, der bunder i et eksistentielt lag af den menneskelige væren, hvis man skal udtrykke det lidt højstemt. Noget Warner dog ikke selv forfalder til. Han underviser i skrivning, hvilket også viser sig i den måde, han selv skriver. Det er flydende og let og hele tiden med en underliggende humor og smag for den sigende metafor. Sproget bliver behandlet med respekt for udtryksfylde og variation.

“Writing is thinking” er hovedpointen og titlen på kapitel 5. Denne pointe skal ses i forhold til fremkomsten af maskiner, som kan fremstille tilsyneladende meningsfulde kæder af ord. Men, spørger Warner retorisk, er det en form for skrivning? Eller er det noget fundamentalt andet? Noget der ligner skrivning, men ikke er det?

Skrivning består både af at udtrykke en tanke (“an idea") og undersøgelsen af tanken. Når man skriver “you set out with an intention to say something, but as part of the attempt to capture an idea, the idea itself is altered through the thinking that happens as you consider your subject” (s. 61).

Men sådan er det ikke, når chatbots kommer med et output bestående af en række ord. “When ChatGPT strings together its tokens in the form of syntax, it is not wrestling with an idea. It is arranging language” (s. 62). Og tidligere i bogen har han skåret forskellen mere til: ““ChatGPT cannot write. Generating syntax is not the same thing as writing. Writing is an embodied act of thinking and feeling. Writing is communicating with intention” (s. 8).

Warner kalder chatbots output for bullshit, og her trækker han på Harry Frankfurts argumenter i On Bullshit. I almindelig sproglig kommunikation er der et menneske, der vil, hævder eller mener noget med et udsagn, men for bullshitteren er betydningen af det sagte ligegyldig. Her bruges sproget kun strategisk, og afsenderen er ligeglad med, om udsagn er sande eller falske, rigtige eller forkert. Her er det den strategiske fordel, et udsagn kan give, der er afgørende. I modsætning til løgnen, hvor sandheden anerkendes, men fordrejes, er sandheden betydningsløs i bullshit.

Dette kan ifølge Warner overføres til chatbots. Der er ingen intentioner, ingen holdning, ingen hjemme. De genererede sproglige udtryk er ikke udtryk for noget. Derfor giver det heller ikke mening at tale om bias, hallucinationer osv. for at karakterisere deres output. Chatbots genererer ord på baggrund af mønstre i sprog uden relation til en omverdensforståelse, kropslighed, livshistorie, følelse eller andet, der er karakteristisk for menneskers sproghandlinger – og dermed også i deres skriftlige udtryk.

Bogen er delt op i fire dele som henholdsvis handler om chatbots og intelligens, skrivning, konsekvenser af chatbots og endelig forskellige former for modstand overfor påvirkninger af chatbots på et kulturelt og samfundsmæssigt niveau.

I første del beskriver forfatteren forskellen mellem ord produceret af mennesker og ord produceret af maskiner som chatbots. Ordgenerering er automatisering på baggrund af mønstre i den måde, mennesker har frembragt sprog på. At tale om kunstig intelligens er derfor misvisende. Warner henviser her til “the intelligence illusion” (Baldur Bjarnson), som skyldes brugerens projektion eller misopfattelse. Bjarnson sammenligner brugen af chatbots med det at gå til en synsk person. Ordene fra den synske person har ingen mening i sig selv, men kan tillægges mening af klienten, der gerne vil have, at ordene skal have en forbindelse til klientens virkelige liv.

Mange har sammenlignet chatbots med lommeregnere. Da lommeregneren kom frem, var der en frygt for, hvad det vil gøre ved elevers kognitive udvikling. Men den sammenligning rammer ved siden af en fundamental forskel ved de to teknologier. Lommeregneren performer regning ud fra de samme regler, som når mennesker regner. Den gør det samme, som et menneske, men automatiseret. Men en chatbot skriver ikke på samme måde som et menneske. Chatbots og mennesker gør ikke det samme, når de sætter ord i en syntaktisk korrekt rækkefølge. “Fetching tokens based on weighted probabilities is not the same process as what happens when humans write” (s. 51).

I anden del går Warner ind i, hvad skrivning egentlig er for noget. Han har arbejdet med skrivning hele sit liv. Han underviser i skrivning og har skrevet flere bøger om det. Han har også en fast klumme i Chicago Tribune om bøger og litteratur.

Han viser, hvordan al skrivning tager udgangspunkt i den retoriske situation med budskab, publikum og hensigt – han har muligvis glemt kontekst. At skrive er at ville noget; og ofte at ville noget med nogen. Og det er også at påtage sig et ansvar for budskabet. Der ligger en kantiansk forestilling her om at ytre sig til det fælles bedste; den offentlig brug af fornuften, som Kant ville kalde det.

Warner kommer ikke selv ind på en forbindelse med Kant, men man genfinder den i fjerde del af bogen, hvor han taler om, at det er vigtigt at gøre udviklingen af og vores brug af chatbots til et offentligt anliggende, fordi det er noget, der har konsekvenser for samfundet. Han taler her også om behovet for regulering. Det er i offentligheden, at fornuften kommer til udtryk i udvekslingen af forskellige synspunkter, der alle bunder i begrundelser. At have en demokratisk samtale er at strides om påstande og værdier, der kan begrundes.

I tredje del behandles nogle af de konsekvenser, som vi allerede kan se, at chatbots vil få.

Chatbots er blevet set på som den nyeste udgave af learning machines, som er forsøg på at oversætte læring til processer, der mere eller mindre kan automatiseres. Og som alle andre learnings machines, så følges disse af en markskrigerisk hype. Warner siger det meget godt i sin analyse, når han med henvisning til Audry Waters skriver: “Waters shows that the “problem” the teaching machines are trying to solve is the inherent variability and messiness of learning”” (s. 136).

Learning machines baserer sig på “the engineering model”, hvor man tror, man kan oversætte læring til en formel. Den består typisk af: hvad skal læres, hvad mangler elever ift. dette mål, materialer til ophævelsen af manglen, en algoritme for opfyldning af manglen og et mål for fremskridt, giv den lærende instruktion om, hvilken retning han eller hun skal bevæge sig efter hver aktivitet.

Problemet med denne tilgang er, at den ikke tager hensyn til eller udgangspunkt i, hvordan man lærer, og hvad læring er; the messiness.

Det andet samfundsmæssige problem, Warner rejser, er fremstillingen af såkaldt “indhold”. Med automatiseret generering af indhold drukner verden i “indhold”, som egentlig ikke bærer nogen værdi i sig selv, men hvis eneste berettigelse er at generere aktivitet, der kan sælges som data og som mål for reklame. Det seriøse indhold har svære betingelser, fordi der produceres så meget meningsløst bullshit.

I denne sammenhæng savner jeg, at Warner også forholder sig til, at der er rigtig mange mennesker, der også tidligere har og stadig produceret en masse “indhold” med præcis det samme formål. Han diskuterer heller ikke, om de forfattere, der har strejket mod tv-producenterne for ikke at blive erstattet af robotter, også selv har bidraget kraftig til produktion af bullshit og tv-serier i uendelige baner, hvor det ikke gør den store forskel, om det er produceret af robotter eller mennesker.

Her holder Warners analyse sig rigidt til en modstilling mellem menneske og maskine. Han kunne jo også have set på, hvordan partnerskab mellem menneske og maskine (også chatbots) kan indgå i et frugtbart samarbejde for at producere indhold. Det vil altid kræve, at der er et eller flere mennesker, der tager den endelige beslutning, da maskiner ikke har intentioner på samme måde som mennesker. Men et sådant samarbejde kan klart nok give mening.

“To what problem is ChatGPT the solution?” (s. 130), citerer Warner Jane Rosenzweig. Denne sætning falder ikke i fjerde del, men temaet ret godt. Hvad er det vi skal med denne teknologi: generativ kunstig intelligens? Det bør, som allerede nævnt, være et offentligt anliggende og udsættes for demokratisk debat. 

Og her får Warner støtte af National Education Policy Center, som i 2024 udgav en rapport, hvoraf det fremgår: “The weight of the available evidence suggests that the current wholesale adoption of unregulated AI applications in schools poses a grave danger to democratic civil society and to individual freedom and liberty” (s. 269).

Warner taler i denne del om, hvordan man kan arbejde med chatbots gennem modstand, fornyelse og udforskning.

Han første råd i forhold til den modstand, der er behov for lyder: “The first step, then, is to have a little echo in your head that says automation every time you hear the words artificial intelligence” (s. 232). Med det peger han på, at det er vores tilgang til teknologien, der er afgørende og ikke nødvendigvis teknologien i sig selv.

more than words er en fornøjelse at læse, selvom den også er lidt forelsket i sin egen skriftlighed. Man mærker, at den er skrevet ud fra en dyb kærlighed til det skrevne ord og den kultur, det skrevne ord er en del af. Der er mange dannelsestanker forbundet med Warners refleksioner.

Det undrer mig, at han tilsyneladende ikke kender til Naomi S. Barons værk Who wrote this? How AI and the lure of efficiency threaten human writing (anm. i Kulturkapellet), som efter min mening stadig er det bedste, der er skrevet om forholdet mellem skrift, tænkning, eksistens og chatbots. Men Warners bog er godt selskab, og der er rigtig mange fyndige og citatvenlige vendinger i bogen. Det er en bog, der kan få pligtlæsning til at føles som lystlæsning. ” Only humans can read. Only humans can write. Don’t let anyone tell you otherwise” (s. 123)