Det er egentlig underligt, at når man tænker, så kan man have opfattelsen af, at det er “ens egen” tænkning. Men i virkeligheden er tankeprocesser jo noget, der blander alt muligt sammen. Ting man har hørt og læst, tidligere erfaret, tror på eller måske har drømt.

Man skaber alle mulige mærkelige forbindelser og kalder det tænkning. Det er den unikke sammenblanding, der er “ens egen” tænkning. Men det er lige så meget noget, der er blandet sammen med alt muligt skrammel. “Ens egen” tænkning kan forstås med Bachtins ide om flerstemmighed. Alle mulige stemmer blander sig med det, man siger. Man taler eller tænker i kor snarere end som solist. Eller man kan sige, at tanker ligesom tale er dialogisk, og det er spændingen mellem dialog-partnerne, der afgør talens eller tænkningens dybde og kreativitet.

Nogenlunde sådan forstår jeg også en af pointerne i John Nostas tankevækkende bog The Borrowed Mind.

Selve titlen henviser til en fare ved at overlade for meget af tænkearbejdet til en maskine. Egentlig, siger Nosta, kan chatbots ikke tænke, så det er egentlig forkert at omtale det, den gør som tænkearbejde. Men chatbots kan forbinde en række forestillinger, som mennesker ikke kan, fordi deres matematiske funktionsmåde etablerer et kort af vektorer, som forbinder mange ord med mange andre ord på måder, der er ufattelige for den menneskelige forstand.

Når man anvender en chatbot for at styrke ens egen tænkning, så kan man blive forbløffet over alt det, der kan komme ud af chatbotten. Og ikke mindst kan man blive forbløffet over, hvor sammenhængende og overbevisende det lyder. Og det er netop her, der ligger en fare; “There is a particular kind of peril that arrives not with violence, but with poise. It speaks with perfect fluency and offers relief from the effort of thinking. It is the temptation to let a machine do our reflecting for us. When that happens, we do not only borrow an idea. We borrow a mind. And although it may feel subtle, it is a loss we choose ourselves” (s. 138).

Problemet med chatbots er ikke selve teknologien, men den måde, hvorpå vi som mennesker anvender dem. Den menneskelige tænkning kræver tid, friktion, usikkerhed og tvivl. Uden disse elementer udvikler den sig ikke. Men sådan er det ikke med chatbots, som fungerer efter helt andre logikker end mennesker. Og derfor er der også tale om forskellige former for tænkning eller intelligens. “The machine performs the surface of thought beautifully, but without the conditions that give human thought its depth” (s. 159), siger Nosta.

Men netop fordi den kunstige intelligens er forskellig fra den menneskelige, kan den være værdifuld. Hvis kunstig intelligens fungerede på samme måde som menneskelig intelligens, ville den ikke kunne have samme funktion. Forfatteren ser derfor samarbejdet som en sammensætning af forskellige dele (composit). “Human and machine intelligence form a composite when each contributes its distinct capacities” (s. 51). Men som han også siger, kræver det disciplin, fordi man let kan blive forført af, at de output, man får genereret, kan lyde så overbevisende, sammenhængende og flydende, at man glemmer, at der ikke er “nogen hjemme”; at det bare er genererede ord ud fra en matematisk sandsynlighedsberegning.

Det smukke ved den kunstige intelligens er, at den forbinder ting, som vi som mennesker har svært ved at se, hvordan hænger eller kan hænge sammen. Så når man går i dialog med en chatbot, kan man få underlige eller overraskende output, der får en til at tænke videre og dybere.

Igen er det afgørende, at man ikke overlader tænkningen til chatbotten, for det kan den ikke, men fastholder tænkningen selv. Ikke låner dens måde at fungere på som erstatning, men altid som et tillæg eller tilskud til ens egen (?) tænkning.

Derfor lægger brugen af chatbots op til en dialogisk tænkning. “The models now contribute to an internal dialogue. In a new and interesting way, my cognitive partner, my intellectual best friend, is a model. Why? Because it knows me. By conversing with it, I am re-creating an internal monologue that functions as a dress rehearsal for life” (s.32). Det er dog en særlig form for dialog, fordi dialogpartneren ikke selv har en tænkning at byde ind med. Den byder ind med noget andet, nemlig de utænkelige forbindelser, der kan opstå, når den fungerer som en stor sprogmodel.

En stor sprogmodel er lavet, så den forbinder hvert ord (egentlig token) med 10.000-vis andre ord. Derfor kan den springe fra det ene område til det andet. Ord kan være forbundne på mange forskellige måder. Hvis jeg siger æble, så vil min samtalepartner forstå noget ved ordet. Ordet åbner for et betydningsrum, der på en eller anden måde er logisk. Men sådan er det ikke for en sprogmodel, der netop kan forbinde æble med mange andre ord, der ikke skyldes logik og kun i begrænset omfang kontekst. ´Æble´ åbner et rum, hvori Steve Jobs spiller en rolle, hvilket du sandsynligvis ikke lige tænkte på, da jeg skrev æble. Ikke at det ikke kan give mening, hvis konteksten var computere. Det er få adgang til tilfældige sammenhænge, når man er i en tænkeproces, kan virke befordrende for denne proces.

Det er bare en af grundene til, at man kan udvide sin tænkning ved at inddrage chatbots i sin proces. Noget andet er, at i mange tilfælde, vil de forbindelser, der bliver åbnet med chatbotten umiddelbart give mening. Så hvis jeg er interesseret i renæssanceslottet og giver et input om noget, jeg ved om emnet, så kan jeg få genereret masser af ord, der gør, at jeg får udvidet mit undersøgelsesrum. Det afgørende er, at jeg kan forfølge de sammenhænge, der bliver foreslået som en del af min indre monolog.

Der er tale om en projektion og ikke om en virkelig dialog, hvor der er en bevidsthed i den anden ende. Betegnelsen “kunstig intelligens” giver ikke rigtig mening, hvis vi med intelligens mener noget retning af den måde, menneskers hjerner fungerer på, så man som menneske kan foretage afstemte beslutninger i de situationer, man står i. Chatbots, store sprogmodeller eller hvad man skal kalde dem, besidder ikke intelligens i den forstand. Derfor foretrækker Nosta at tale om den som anti-intelligens: “Calling this phenomenon anti-intelligence is not a critique of the technology, but a recognition of what these systems are and what they are not” (s. 102)

Men dermed er der heller ikke tale om dialog i almindelig forstand, men snarere en proces, hvor man prøver at udfordre sin egen tænkning ved at bruge chatbotten som en slags kreativ udfordring. For at denne proces kan fungere, så bliver man nødt til selv at komme med noget og være parat til at spille kognitiv pingpong med modellen.

Bogen er bygget op i tre dele. I første del The Promise, hvor han fremstiller en række af de hypede forestillinger om generativ kunstig intelligens. Det er blandt andet, at man ikke har brug for bøger, fordi man har en uendelig vidensressource lige ved fingerspidserne. Hvorfor bekymrer sig om at lære noget, når man bare kan prompte? Forfatteren kommer selv med et eksempel, hvor han er gået på jagt efter viden om et særligt område, han kun har beskæftiget sig med på hobby-niveau. Det bliver hurtigt klart, at han kan få samspillet med botten til at fungere, fordi han netop selv kommer med viden i forvejen.

Så selv om eksemplet måske skulle vise, at man kan komme langt i en læringsproces ved at prompte sig frem, så viser eksemplet netop, at hvis man vil komme langt i sådan en proces, så er det afgørende, at man kommer med noget selv. God prompting begynder med, at den, der prompter, ved noget, der kan angive, hvor man skal søge og generere nye perspektiver.

Den anden og største del The Perils fremstiller alle de farer, der kan ligge i, at man har adgang til en model, der hele tiden kan præstere noget, der kan fungere nogenlunde. Og altid på en flydende, sammenhængende og overbevisende måde. Her er det vigtigt, at man ikke låner den fremmede hjerne, men besinder sig på forskellen mellem intelligens og en stokastisk papegøje, der i øvrigt forsøger at fastholde brugerens opmærksomhed så lang tid som muligt. Hvis man vil udfordres af den, kræver det, at man gør en indsats.

Tredje del handler om The Path Forward, hvor et af kapitlerne meget betegnende hedder Reclaiming Agency (s. 182ff). Det er vigtigt, at man selv kan stå inde for det, man får lavet med chatbotten som partner. Den har ingen følelser, bevidsthed, moral, viden eller andet, der kendetegner menneskelig væren, derfor skal man være på vagt og sørge for at bevare sin menneskelighed med de fejl og mangler, der netop kendetegner den menneskelige væren.

Det er også i denne del, forfatteren gør meget ud af pointen med at bots og mennesker er forskellige, og at det er i forskelligheden, værdien ved at bruge bots ligger. De er noget andet og bidrager med noget, der er hinsides mennesker. Man skal derfor ikke lade sig forføre af dem.

Det er en tankevækkende og interessant bog, Nosta har skrevet. Den er først og fremmest et meget langt essay, der bevæger sig ad forskellige veje. Mange steder inddrager han egne erfaringer.

Der er dog også flere steder, hvor man tydeligt mærker, at han også har en begrænset indsigt i visse domæner, selvom han inddrager dem. Det gælder fx hans omtale af, hvordan sprog fungerer. “If you look at the ontology of language, its structure and function, you will find that language has traditionally been seen as a map, with one concept connecting linearly to another” (s.25). Det er en virkelig banal og for længst opgivet ide om sprog, der kommer til udtryk her. Sprog er en kompliceret proces, og der er mange stridende teorier om sprog og sprogets funktionsmåde. Men allerede de Saussure opdelte for mere end 100 år siden sproget i system og brug, hvor linearitet ikke rigtig fungerer som en mulighed.

Også forståelsen af dialog hos Sokrates rammer forbi den ide om erkendelse, som Platon forsøger at fremstille gennem sine dialoger. Her handler erkendelse ikke om friktion, som Nosta påstår, men om, at de evige ideer er gemt i ethvert menneske som en skjult erindring. Sokrates har ingen forestilling om, at viden eller erkendelse er et resultat af dialogen, selvom dialogen kan vise, at visse forestillinger er forkerte og ikke holder.

Udover disse indvendinger kan man også fremholde, at borgen er alt for lang i forhold til sine pointer, der bliver cirkuleret igen og igen; ofte kun med små variationer. Efter mit skøn kunne bogen i omfang mere end halveres uden tab af indsigt. Jeg har en mistanke om, at bogen er blevet til som en bearbejdning af blogindlæg på Nostas hjemmeside. Her vil det være oplagt, at der er pointer, der går igen i mange forskellige indlæg. Men det fungerer ikke særlig godt som bog.

Men som sagt: det er interessant, spændende og tankevækkende – og så kan man godt skrålæse det meste (hvilket jeg dog kun har gjort i meget begrænset omfang).