I The Psychology of Science (1966) skrev Abraham Maslov: “Hvis du kun har en hammer, har du en tendens til at se ethvert problem som et søm”. Her peger han på, at de værktøjer eller teknologier, som vi har til rådighed, er med til at definere den måde, hvorpå vi ser verden og de udfordringer, som den giver os som mennesker. Mennesker er redskabsfremstillende dyr; homo faber. Og de redskaber, som vi fremstiller, virker tilbage på, hvordan vi forholder os til vores omverden.

Det er også en af de afgørende pointer Elisabeth Austad Asser trækker frem i Teknologiens makt. Hvordan kunstig intelligens forfører, frister og utøver makt - og hva vi kan gjøre med det. Asser henviser dog ikke til Maslov, men til den tyske filosof Martin Heidegger og især hans Spørgsmålet om teknikken fra 1950'erne.

Det store spørgsmål for Asser er, hvilke konsekvenser vores brug af bestemte teknologier har for vores selvforståelse, for interpersonelle forhold og for samfundet generelt. Kunstig intelligens og generativ kunstig intelligens er teknologier, som i stigende omfang bliver inddraget i vores arbejds- og studieliv. Dette stiller krav om særlige kompetencer i at håndtere teknologierne for at bruge dem på hensigtsmæssige måder. Men “det viktigste spørsmålet [er ikke] hvordan teknologi fungerer, men hva den gjør med våre liv og vårt samfunn” (s. 12f).

Og her mener Asser, at Heidegger giver os et sprog til at forstå vores forhold til teknologi. I Spørgsmålet om teknikken peger Heidegger på, at både videnskaben og teknologien blokerer for, at mennesker kan forstå sig selv i sin væren. Teknologien skjuler det væsentlige i menneskers omverdensforståelse. Den moderne teknologi virker fremmedgørende og reducerer naturen til en ressource uden en værdi i sig selv. Vi forstår naturen instrumentel. “Å ha et instrumentelt forhold til naturen betyr for eksempel å se på en skog som en kilde til tømmer, snarere enn å anerkjenne den som noe med verdi i seg selv” (s. 32). “Naturen blir ikke lenger noe vi lever med, men noe vi legger under oss”, siger hun videre (s. 34).

Naturforholdet er noget Asser vender tilbage til hen imod slutningen af bogen, hvor hun fremhæver en naturromantisk forestilling om den intelligente natur eller ånden i naturen.  Med støtte fra James Bridle henviser hun til, at naturen i sig selv besidder en intelligens. “Han viser hvordan intelligens manifesterer seg i økologiske og biologiske relasjoner, i trærnes rotnettverk, i blekksprutens kroppslige hukommelse, i bienes kollektive beslutningsprosesser” (s. 272).

Denne henvisning til naturens særegne åndelighed er noget, der ser ud til at være blevet en trend i tiden, og måske er det præget af den økologiske og klimamæssige krise. Der er kommet en religiøsitet i forbindelse med naturforholdet, hvor det tilsyneladende er blevet vigtigt at beskrive natur som noget, der besidder en sjæl i en eller anden forstand.

Jeg finder ikke denne diskussion af natur særlig interessant eller givende. Men der er mange andre spændende og givtige aspekter ved bogen. Den er blandt fyldt med massevis af eksempler på, hvordan teknologier bærer værdier. Det er noget, som man inden for STS og ANT længe har peget på. Og Asser henviser da også til den postfænomenologiske teknologifilosofi, selvom det ikke er der, man finder hovedvægten i hendes inspirationer.

Et godt eksempel er den racistiske sæbedispenser (s. 78ff). Den fungerer med en lyssensor, der ikke aktiveres af hænder med mørk hud. Her ligger der en særlig værdi i det design af sensoren, der kun ”anerkender” folk med lys hud. Lyssensoren er udviklet af og afprøvet på overvejende lyshudede mennesker, så der er tale om A white guy syndrome, som betyder “at algoritmer arver og forsterker eksisterende fordommer og skjevheter fra datagrunnlaget” (s. 127).

Dette bliver så meget desto mere problematisk, når kunstig intelligens indgår som beslutningsstøtte eller helt overtager beslutningskompetencer. Det sidste viser Asser med henvisning til folk fra Amazon, der er blevet fyret af en kunstig intelligens, der har registreret data fra forskellige medarbejdere. Uden inddragelse mennesker og uden mulighed for at gøre indsigelser, er medarbejdere blevet afskediget på baggrund af en algoritme forbundet til et automatiseret beslutningssystem.

Men det sker også mange andre steder både i den private sektor og i offentlige forvaltninger. Når man lægger borgernes data ind i et program, kan en automatiseret proces “anbefale”, at man får eller ikke får et lån; om man får boligstøtte eller ikke; om skoler skal nedlægges eller ej. Medarbejderne kan støtte sig til anbefalingerne, og de kan have meget svært ved at afvise dem, fordi de så vil komme til at stå til ansvar, hvis deres eget skøn har vist sig at få uheldige konsekvenser. “Dersom en dommer skulle trosse algoritmens anbefaling, og så viser det seg senere at den som ble løslatt faktisk gjør en ny kriminell handling” (s. 132).

Der vil derfor være et pres på medarbejdere, så de følger automatiserede anbefalinger, hvilket Asser særlig har vist i forbindelse med medarbejdere i banksektoren. Hun beretter om en bankrådgiver som har et indgående kendskab til en klient, men hvor algoritmen anbefaler, at vedkommende ikke får et lån. Den bankansattes faglige skøn og dømmekraft kommer her på overarbejde, og måske fører det til, at vedkommende ikke tør gå imod anbefalingen.

Generelt fører den slags automatiserede beslutningsstøtte til det, Asser betegner som “algorithmic deskilling” (s. 216), fordi man ikke kan opretholde sit faglige niveau, når den faglige dømmekraft løbende sættes ud af kraft. Det er den generelle tendens til, at de evner og kompetencer, der ikke bliver brugt, forvitrer. Det er der masser af forsøg, der har vist igen og igen.

Automatiserede beslutninger giver et problem med, hvordan man placerer et ansvar. Når de automatiserede beslutninger får indflydelse på menneskers liv, hvem har så ansvaret for de beslutninger, der bliver taget? En robot kan ikke stilles til ansvar. Men hvem kan så? Dem der har produceret systemet, dem, der har implementeret det, politikere der har bestemt rammerne, eller…?

Uanset hvad bliver det vanskeligt at holde bestemte personer ansvarlige, hvilket også kan underminerer retssikkerheden. Og i forlængelse af dette hvad betyder det for det menneskesyn, der ligger i beslutningsprocessen. “Når algoritmer tar over jobben til dommere, er det ikke bare rettssystemet som forandres, men også vår opplevelse av hva det vil si å bli sett som menneske vil stå på spill” (s. 133).

Jeg synes det mest spændende ved bogen er diskussionen af, hvad der sker på det samfundsmæssige niveau. Dels henviser Asser til forholdet mellem private virksomheder og staters suverænitet. Hvordan kan man acceptere, at private virksomheder har så stor indflydelse, at det overtrumfer, hvad man beslutter i enkelte lande? Hvordan kan man affindes sig med at kritisk infrastruktur leveres af private virksomheder, der ikke kan stilles til ansvar for deres beslutninger, og som fungerer efter profitmaksimerende eller i hvert fald forretningsmæssige logikker? Kontrollen over grundlæggende funktioner i samfundet bliver bestemt af beslutningstagere, der hverken er valgt eller har noget særligt forhold til den enkelte nationalstat.

Når en dommer fra Den Internationale Krigsforbryderdomstol kan få frataget sin adgang til egne e-mail-konti, fordi en amerikansk techgigant (på foranledning af den amerikanske stat) har afbrudt den, hvor stiller det så demokratiske samfund og den internationale retsorden?

Asser peger i stedet på, at man i demokratiske samfund må beslutte, hvad man vil med samfundet og dermed de teknologier, man benytter sig af. “Teknologien får først mening når vi klart og tydelig definerer hva den skal tjene – altså hva formålet er, og hvilke verdier vi ønsker å realisere ved hjelp av den” (s. 68). Det er ikke i orden, at den norske stat (eller andre demokratiske stater) overlader udviklingen af teknologier med de værdier, de nu kommer med, til tekindustrien. Her må værdierne komme først. Teknologierne må understøtte ligeværd, mangfoldighed, menneskerettigheder, individuel selvbestemmelse og den slags værdier for at blive anerkendt og accepteret.

Hun taler for, at vi skal bryde med det princip, at mennesker skal tilpasse sig teknologien, hvilket er det, der sker i øjeblikket. Dette indebærer også, at vi skal værne om offentligheden som det medie, der er grundlaget for et velfungerende demokrati. Men megen af den teknologi, der udvikles, virker nedbrydende på offentligheden og dermed den frie udveksling af synspunkter – og på den myndige borger. Generativ kunstig intelligens og sociale medier er teknologier, der understøtter antisociale bevægelser, hvilket også gør vejen for autokrater nemmere.

Hendes løsning på denne problemstilling bliver et pege på en bæredygtig udvikling af teknologier. “Bærekraft… det handler om hvordan vi som mennesker forstår verdiskaping. Det handler om hvilke verdier som faktisk bør ligge til grunn for hvordan vi utvikler våre samfunn. Det handler om å finne en balanse mellom det vi kan gjøre og det vi bør gjøre” (s. 247). Og videre senere som en konklusion på bogen: “[Hvis vi] ønsker et samfunn preget av tillit, ansvar og bærekraft, må vi også bygge institusjoner som holder og hærer de som ledes oss dit” (s. 278).

Det er en god diskussion, Asser her rejser om, hvem der skal bestemme over, hvilke teknologier, der bør udvikles, og hvilke værdier der skal prioriteres. Noget der også er blevet grundigt diskuteret af eksempelvis Mark Coeckelbergh og Henrik Skaug Sætra. Det kan undre mig, at hun ikke i højere grad trækker på disse to tænkere eller andre, der også har beskæftiget sig med forholdet mellem (generativ) kunstig intelligens og demokrati.

Det er en interessant bog, Asser har skrevet. Den rejser mange gode og grundlæggende spørgsmål om forholdet mellem teknologi, mennesker og samfund. Bogen har dog også en tendens til at være noget unuanceret i beskrivelsen af forholdet mellem teknologi og magt. “Teknologi er aldri nøytral – den former hvordan vi tenker, handler og forstår verden. Satt på spissen kan vi til og med si at en stol bestemmer hvordan vi som mennesker skal sitte” (s. 123). Den første del er efter min opfattelse helt rigtig, men derfra og til at slutte til, at teknologien dermed bestemmer (determinerer), hvordan den bliver brugt, er alt for unuanceret.

Brug af teknologi er altid et forhandlingsspil. Man kan sidde på en stol på mange måder, ligesom man ikke behøver at bruge den til at sidde i, men til noget helt andet. Her kunne en højere grad af inddragelse af de postfænomenlogiske tænkere, som Asser jo også henviser til, have givet et mere nuanceret syn på forholdet.

Teknologien har nok magt (eller agens), men den fungerer også altid i samspil med brugeren, sociale forhold, hensigten med brugen osv. osv.