Mest læste
[Sagprosaanmeldelse]

1 - Sagprosaanmeldelse
En morders bekendelser
2 - Sagprosaanmeldelse
Under tvang - minerydningen ved den jyske vestkyst 1945
3 - Sagprosaanmeldelse
De udvalgte – på flugt for livet
4 - Sagprosaanmeldelse
Kønsballade
5 - Sagprosaanmeldelse
Elevcentreret skoleledelse
6 - Sagprosaanmeldelse
Den store Storm P.-bog
7 - Sagprosaanmeldelse
Drengen der voksede op som hund
8 - Sagprosaanmeldelse
InterView – Introduktion til et håndværk
9 - Sagprosaanmeldelse
Fortrængt grusomhed – Danske SS-vagter 1941-45
10 - Sagprosaanmeldelse
Bourdieu for begyndere

The Psychology of Artificial Intelligence / Tony Prescott / 134 sider
Routledge. ISBN 9780367543112
Anmeldt 5/8 2025, 18:00 af Ove Christensen

Kunstig dumhed


Kunstig dumhed

« Tilbage venstrestil icon lige marginer icon - icon + icon print icon

Cover

Jeg har længe haft Tony Prescotts bog The Psychology of Artificial Intelligence liggende uden at få den læst, selvom den udkom for godt et år siden. Jeg ved ikke, hvorfor netop denne bog er blevet valgt fra frem for andre, men heldigvis har jeg fået tid til at læse den i løbet af sommeren.

Det er en lille sag på lidt over hundrede sider, så det er ikke omfanget, der har sat den i skammekrogen. Den er sine steder temmelig vanskelig tilgængelig, når den bevæger sig ud i neuro- og computervidenskabens dybere afkroge. Men Prescott er god til at forklare og eksemplificere de videnskabelige argumenter. Så bogen henvender sig til alle alment interesserede i forholdet mellem kunstig intelligens, computere og intelligens.

“This book is about artificial intelligence and its relationship to the science of understanding human intelligence—psychology”, skriver Prescott på side 1. Når vi taler om kunstig intelligens, så er det en god ide først prøve at få styr på, hvad intelligens overhovedet er for en størrelse. Men det er nemmere sagt end gjort. Gennem nogle teorihistoriske nedslag kommer forfatteren dog frem til en definition.

Det vi kalder rationel og logisk tænkning, er kun én side af intelligens, for intelligens er også relateret til den sammenhæng, den indgår i. “We are intelligent to the extent that we act appropriately in the environment that we live in, maintain ourselves, and (hopefully) achieve our personal goals” (s. 5). Her bliver mange forskellige former intelligens vigtige og relevante. Intelligens kræver en forståelse for de omgivelser, man er placeret i. Derfor vil det også ofte gælde, at “emotional and social intelligence may be more critical than the logico-mathematical variety when it comes to succeeding in our highly complex social worlds” (s. 18).

Hvis man accepterer denne præmis, der har en vis videnskabelig tyngde, så kan man begynde at overveje, hvad dette betyder for kunstig intelligens.

I første omgang undlod forskningen i den kunstige intelligens dog spørgsmålet om intelligens. I stedet tog den udgangspunkt i, hvad mennesker gør. Hvis en maskine kan gøre noget, som mennesker ellers hidtil har været de eneste, der har kunnet, så må det være intelligens. Dette er også pointen i den velkendte Turingtest, hvor man sammenligner svar fra henholdsvis et menneske og en maskine. Hvis det ikke kan afgøres, hvem der er hvem, så må maskinen være intelligent.

De seneste 30 år har dog set store fremskridt i forhold til at udvikle kunstig intelligens i forhold til eksempelvis at score højt i intelligenstest, klare visse specialiserede eksamener og afkode af indholdet af billeder. Især med udviklingen af maskinlæring har kunstig intelligens kunnet præstere noget, der i den grad minder om noget, der kræver en intelligens.

Dermed har diskussionen om den kunstige intelligens også forskudt sig fra at handle om at løse svære logiske problemer til at handle om betydningen af sansning, erfaringer og sociale kontekster. Noget som den kunstige intelligens ikke har. Desuden har der også været fremført, at kunstig intelligens ikke har noget at gøre med intelligens, fordi kunstig intelligens består af digitale processer, hvorimod hjernen består af biologiske og kemiske processer. Forskellene i materialitet bliver her til en afvisning af, at intelligens kan (gen)skabes digitalt.

Disse to diskussioner fylder meget i bogen. Den første kritik accepterer Prescott. Intelligens er kontekstuel. Han viser også, at der er en sammenhæng mellem sansning og intelligens. I den menneskelige intelligens betyder de fem sanser rigtig meget og indgår som en del af intelligensen. At mærke noget har indflydelse på de fortolkningsprocesser, der går i gang i hjernen.

Direkte omverdensforståelse vil kunstig intelligens kun kunne opnå, hvis den frigøres fra computeren og får direkte adgang til verden. Prescott mener, at robotter efterhånden vil kunne løse denne udfordring.

Men hvad med modsætningen mellem organiske processer, som foregår i hjernen, og digitale processer, som foregår i computersystemer? Her tilslutter forfatteren sig til en funktionalistisk tilgang til intelligens. “The key idea is that it matters not so much what brains and computers are made of—they are undoubtedly made of very different kinds of stuff—but what they do” (s. 32).

Dette rejser et af de helt store spørgsmål i forhold til den menneskelige væren, nemlig spørgsmålet om den menneskelige sjæl - eller for at afdramatisere det lidt: det menneskelige sind, som blandt også handler om selvbevidstheden. Det engelske “mind” dækker langt bredere end de danske oversættelser som ‘sind’, ‘tænkning’, ‘bevidsthed. “Mind and brain are such very different things it is still hard to conceive that the former must arise in the latter” (s. 23). Man kan ikke reducere tanker til processer i hjernen. Ud af hjerneprocesserne opstår tænkning, og intelligens er, når der kommer en passende analyse og adfærd ud af det.

Prescott undersøger, om noget, der ikke er bevidst eller har bevidsthed, kan afstedkomme noget, der er eller har det. Han henviser blandt andet til Marvin Minsky, der har sagt: “the mind is made up of things that are mindless” (s. 33). Forfatteren inddrager en række ligheder mellem hjerneaktiviteter og den måde neurale netværker og deep learning fungerer på. Eksempelvis ser mennesker ikke det, de ser. Mennesker ser med en forventning om, hvad de ser, hvilket prædisponerer hjernen (afkodningen af det sete) til at se det forventede. Der er altså ikke tale om en ren sansning. På en lignende måde fungerer parametre i kunstig intelligens ved at “gætte” på sammenhænge.

“Of course, artificial neural networks are different in a great many ways from the neural circuits of the brain, and some researchers will argue that the differences may be more important than the similarities. I am less sure—at a functional level, these deep neural network models seem to be getting a lot of things right” (s. 79) Denne tvivl kommer fint frem i løbet af bogen, selvom Prescott på mange måder har valgt side. Og han hævder da også, at det er svært ikke at stole på den funktionelle forklaring på, at det ikke handler om materialitet, men om funktion, og “at a functional level, these deep neural network models seem to be getting a lot of things right." (s. 79).

Desuden har det også vist sig, at man kan udskifte dele af hjernen med kunstigt fremstillede dele, hvilket kan få døve til at høre og blinde til at se gennem manipulation med sansning og input til fortolkningscentre i hjernen. Og hvis man kan udskifte dele af hjernens arkitektur, hvorfor skulle det så være umuligt at erstatte samtlige dele, så de stadig fungerer? Dette afstedkommer dog eksistentielle spørgsmål om, hvorvidt et menneske forbliver sig selv, hvis det meste af hjernen er skiftet ud. En diskussion Prescott ikke går nærmere ind i.

Et problem for kritikerne af den funktionelle tilgang til kunstig intelligens er, siger han, at de ikke har gode alternative måder at forklare intelligens på. Intelligens og bevidsthed er noget, der fremkommer gennem særlige biokemiske processer, som tilsyneladende kan skabes digitalt.

Faktisk kan udviklingen af kunstig intelligens måske være en måde at forklare menneskelig intelligens på. “The mystery of how intelligence could arise at all is beginning to be explained by the self-organising and learning capabilities of AI systems that have intriguing similarities to the vast networks of biological processors that make up our nervous systems” (s. 122).

Vi er dog stadig langt fra generel kunstig intelligens. Det skyldes blandt andet, at kunstig intelligens ikke er kropsliggjort og ikke kan gøre sig erfaringer med omverdenen, men er meget begrænset af deres mulige træningsdata. At kropsliggørelse er meget vanskelig bliver tydeligt, når man ser på udviklingen af noget så snævert som selvkørende biler. Den kunstige intelligens, vi har i øjeblikket, besidder således også en kunstig dumhed, der blandt stammer fra træningsdata og fra, at en kunstig intelligens ikke har nogen viden om noget som helst. Det ligger i generativ kunstig intelligens, at dens output vil besidde fejl og mangler, da den bygger på en sandsynlighedsberegning om sammensætning af ord. “What we might call artificial stupidity, then, is not just the capacity to make errors; it is that an AI’s knowledge is narrowly constrained to the domain in which it was trained. It knows nothing, literally nothing, about anything wider than that” (s. 119)

Prescott har skrevet en virkelig interessant og tankevækkende bog om kunstig intelligens, og han inddrager også, hvordan menneskelig intelligens må forstås som en kollektiv intelligens, ligesom han også inddrager, hvordan forskellige værktøjer fungerer som en udvidet eller eksternaliseret intelligens.

Om man bliver overbevist om hans optimistiske syn på, hvordan man overkommer nogle af de utilstrækkeligheder, der findes i og med kunstig intelligens, må blive op til den enkelte læser selv. Jeg er ikke overbevist. Jeg mener, at han undervurderer de principielle udfordringer, der ligger i den måde, den generative kunstige intelligens fungerer på. Og jeg synes, at han baserer sin argumentation for meget på nogle ligheder, som det kan være særdeles vanskeligt at lodde dybden af. Men læsning af bogen har bestemt giver denne anmelder noget at tænke over.

Forrige anmeldelse
« Hvad er retten til videnskab - ... «
Næste anmeldelse
» Hvordan er nyhedsinfluencere en... »