I jula leste jeg boka til Elisabeth Austad Asser med tittelen: «Teknologiens makt – Hvordan kunstig intelligens forfører, frister og utøver makt – og hva vi kan gjøre med det.» Hun skrev en Ph.D om AI i 2023, og jeg har hørt henne snakke om temaet også. Boken er vel verdt en les – her følger noen inntrykk.
Jeg tar det litt kronologisk, så får jeg et gjensyn med boka også:
Kapittel 1 tar for seg teknologi – hva er det? Hun definerer teknologi vidt (fra å slå gnister med flintstein til dagens AI), og tydeliggjør hvordan teknologien er en del av vår natur. Hun skriver at teknologiutviklingen nå har skutt fart, og det passer jo godt med «the great acceleration».
Men, så skriver hun noe jeg blir utfordret av:
Teknologien har først og fremst gjort oss i stand til å kontrollere naturen. (Eksempler) … Vi er i det hele tatt langt mindre sårbare enn våre foreldre, takket være den teknologiske utviklingen.
Elisabeth Austad Asser, s. 14
Jeg skjønner jo definitivt hva hun mener, der jeg nesten daglig går i badstue for å bli varm osv. Samtidig er jeg veldig glad i Hartmut Rosa sine skriverier, og hans resonansbegrep utfordrer. Teknologien skaper en «falsk resonans», og en tro på at vi er i kontroll. Men, ekte resonans forutsetter det ukontrollerbare. Her er også Sigmund Kvaløy Sætreng god; hans begrepspar komplisert/kompleks gir mening. Teknologien er komplisert, mens naturen er kompleks. Vi blir stadig mer kompliserte, og dette gjør at vi til slutt «sager over greina vi sitter på».
Jeg tror denne «kontrollen over naturen» er skummel. Det viser jo fx tsunamien for noen år siden. Ekstremvær er også utfordrende. Covid er nok et eksempel. Livet (og naturen) kan aldri kontrolleres helt ut, selv med aldri så god teknologi.
Kapittel 2 var overraskende, og ser på hvordan Heidegger ser på filosofien. Asser innrømmer at hun synes han er krevende å lese, og selv har jeg ikke turt å starte en gang. Men, den tyske filosofen som levde fra 1889-1976 så tidlig at teknologien ikke bare former verden, men også vår måte å se/være i denne verden. Hun skriver:
Naturen blir ikke lenger noe vi lever med, men noe vi legger under oss, organiserer og utnytter for å oppnå våre mål. … vi risikerer å bli fremmedgjort fra både naturen og og oss selv som mennesker.
Elisabeth Austad Asser, s. 34
Her er hun spot on! (Og litt kuriosa. «Og og» er ikke meg, men står i boka. Det er også noen andre trykkleifer forlaget fort kunne fjernet med AI – eller enkel utsjekk i tekstbehandling.)
Dette at naturen er blit «avsjelet» i vår tid, er vår tids største utfordring. Heldigvis har vi nye tenkere som for eksempel filosofen Odin Lysaker som fremmer en økosentrisk tilnærming. Asser skriver at «Teknologien har lagt seg som et filter mellom oss og verden» (s. 43)
I dette kapittelet er det også en interessant runde med begrepene sann og korrekt, og hvordan Heidegger så på disse. «Sannhet er en bevegelse – en kontinuerlig avdekkende prosess» (s.39-40).
Det er også her hun for alvor henter frem dette med effektivitet, som kan skjule målet – eller bli et mål i seg selv. Det har store konsekvenser for andre verdier, og hun skriver:
Når andre former for innsikt og erfaring skyves i bakgrunnen, og effektivitet blir styrende, blir verdier som ettertanke, nærvær, skjønnhet, fellesskap, mangfold og langsomhet vanskeligere å forsvare og rettferdiggjøre.
Elisabeth Austad Asser, s. 46-47
Kapittel 3 åpner opp for det jeg tenker er Assers største fortrinn – hennes vekt på verdier. Hun definerer dette på følgende måte:
Verdier er usynlige, men sterke drivkrefter i livene våre, og de påvirker alt fra de minste daglige avgjørelsene til våre største livsvalg. … Ofte handler verdier om pris.
Elisabeth Austad Asser, s. 53
Hun innfører også et skille mellom preferanser og verdier, og referer her til den amerikanske filosofen David Lewis. Det vi ønsker oss i øyeblikket er våre preferanser, mens det vi ønsker å ønske oss er verdier. Dette en litt annerledes tenkemåte enn den jeg er vant med fra ACT – der verdier er det som synes gjennom handling. Da rekker det ikke å ønske seg. Det blir litt som Trump som ønsker seg fredsprisen, og samtidig kupper Venezuela. Er fred en verdi da?
Hun skriver om instrumentell, forskjell på verdier og litt om ting vi tenker er verdier som kanskje ikke er det. Jeg synes dette kapittelet var verdt prisen av hele boka!
I kapittel 4 viser hun hvordan teknologien definerer oss, og hvordan teknologi også er bærer av verdier. Her har hun mange og gode eksempler. Teknologi er ikke bare fysiske strukturer, men former også hvordan vi er mot hverandre. Hva slags muligheter vi har.
Flere av eksemplene viser hvordan ting kan gå feil hvis en har feil datagrunnlag. Teknologi kan både åpen og lukke dører (eller levere såpe i en dispenser).
Kapittel 5 kommer mer eksplisitt inn på KI, og hun starter med å fortelle at begrepet ble introdusert i 1956 på et sommerseminar arrangert av John McCarthy. Rett etter at Heidegger skrev sitt «Spørsmål om teknikken». Det er litt rart å tenke på at begrepet i år bli 70 år. Det hadde vær spennende å høre hva McCarthy hadde sagt til dagens språkmodeller og bruk av KI! (Her ble jeg rammet av en «akutt oppmerksomhetsovertakelse», og har skrevet en instruks for dette og lage en egen bloggpost: Ny fiktiv samtale).
Så får vi vite mer om forskjellige typer kunstig intelligens. Det er jo spesielt maskinlæring som har tat av, og vel også kan lage sin egen regelbaserte KI ut i fra hva den finner ut. Her er hun også gjennom det historiske øyeblikket i 2016 dag regjerende verdensmester i go måtte gi seg mot en algoritme. Dette spillet er mye mer avansert enn sjakk. Hun følger opp med mange flere praktiske eksempler, og noen av de er skikkelig øyeåpnere!
Mot slutten av kapittelet skriver hun:
For å kunne utvikle algoritmer som virkelig fremmer rettferdighet og demper skjevheter, må vi trekke på et mangfold av stemmer og endringer. … Når ulike stemmer og erfaringer får plass rundt bordet, øker sjansen for at KI blir et redskap som tjener mennesker, ikke bare systemer.
Elisabeth Austad Asser, s. 145
I kapittel 6 handler det om teknologiens maktutøvelse. Når vi bruker KI til å ta beslutninger, så er det en form for makt. Og teknologien formes ofte av valg som tas uten vår medvirkning. Dette handler også om de som faller utenfor (ikke har datamaskin eller av andre grunner). Det er også slik at de som er kreative går glipp av gevinsten, fordi den tilfaller andre. (Denne bloggposten blir skrevet på et eget domene uten reklame. Den deles på Facebook, men algoritmene er ikke veldig velvillige når det kommer til slike innlegg. Så dermed blir utbredelsen lav, og i den grad noen får penger her, så er det META og Google (gjennom søk).)
Med KI blir det ENDA mer innhold der ute (syntetisk kaller Asser det), og skriver:
Jo mer sytetisk innhold som dominerer, jo trangere blir rommet for det analoge og unike. Dette handler også om makt: De store teknologiselskapene får de økonomiske gevinstene, mens kunstnere og forfatter kan stå igjen uten både inntekter og anerkjennelse.
Elisabeht Austad Asser, s. 167
Så kommer høydepunktet i boka for egen del. Den springer ut av det hun skriver om «overvåkingskapitalisme», og hvordan den påvirker våre verdier. Vi blir rett og slett manipulert av algoritmene, og det gjør noe med oss. Asser skriver:
… Over tid svekkes evnen vår til å handle etter de verdiene som faktisk betyr noe for oss, fordi algoritmene manipulerer og stadig trekker oss mot valg som først og fremst ganger kommersielle interesser. Gradvis slutter vi å trene opp evnen til å prioritere langsiktige mål, og lar oss heller friste av små, umiddelbare dopaminkick.
Elisabeth Austad Asser, s. 173-75
… Når vi blir overvåket, ikke for vår sikkerhet, men for andres profitt, er spørsmålet ikke bare hva vi mister av personvern – men hva vi mister av frihet.
Dette gjør oss mer sårbare for påvirkning, og er problematisk for deltagelse og demokrati. Vi blir ofre for oss selv, skriver Asser. Og forfølger dette videre med Deep fake og Fake news.
Kapittel 7 handler om mennesket og maskinen. Hva skjer når sjefen blir en KI, og du blir utsatt for algoritmisk HR? Her bruker hun Amazon som eksempel, og går så videre til å se på hva som skjer når algoritmene erstatter deg. Jeg lærte også et nytt ord i dette kapittelet: algorithmic deskilling. Vi mister ferdigheter og dømmekraft fordi systemene overtar oppgaver som tidligere krevde menneskelig vurdering.
Det er ikke vanskelig å si seg enig i dette. Hvordan er det mulig å finne frem i en by uten Google-maps? Det er vanskelig å skjønne at det har vært mulig… Å memorere dikt, telefonnummer osv er blitt tilnærmet umulig. Eksempellisten kan gjøres kjempelang…
I dette kapittelet skriver hun også at «Vi kan ikke ha tillit til en maskin på samme måte som vi har tillit til et annet menneske. (s. 220)» Nå er det vel nettopp det som er i ferd med å skje, at vi har mer tillit til boter og språkmodeller, enn til virkelige mennesker. Dette kommer til å få konsekvenser. Og som hun skriver i starten av boka – nå går teknologiutviklingen veldig fort. Dette kommer hun tilbake til på s. 225: «… en av vår tids største svakheter: troen på fart er viktigere enn retning.»
I det siste kapittelet skriver Asser om bærekraftig teknologi. Her handler det ikke bare om natur, men også om tid og vårt forhold til naturen. Hun gir heller ikke har slipp på sin verditilnærming, og skriver:
KI kan ikke alene løse våre største utfordringer, tvert imot forsterker den ofte problemene den er ment å avhjelpe. Det er derfor vårt ansvar å bruke KI på måter som bygger opp under de verdiene vi ønsker å leve etter.
Elisabeth Austad Asser, s. 246
Effektivitet og profitt har kostnader, og hun skriver at «vi er i ferd med å utarme det vi lever av og det vi lever for.» (s. 247), og fortsetter litt senere:
… det vi står i er ikke først og fremst et kunnskapsproblem. Det er et systemproblem. Vi lever i et økonomisk og teknologisk regime der de instrumentelle verdiene effektivitet, lønnsomhet og vekst er blitt selve idealene vi måles etter.
Elisabeth Austad Asser, s. 249
Hvem er så den «voksne i rommet». Jo, det er EU ifølge Asser. Hun skriver om forskjellige initiativer og direktiver (CSRD, ESG, GDPR osv). Hun skriver videre at det ikke er «mangel på kompetanse, men på karakter.» (s. 275) Litt senere om at «å utdanne for dømmekraft er noe annet enn å utdanne for tilpasning.» (s. 277).
Asser avslutter med følgende:
Hvis vi … klarer å løfte frem de rette verdiene inn i den offentlige samtalen, i utdanning, ledelse, politikk og lovgivning, kan teknologien finne sin rette plass. Ikke som en kraft som styrer oss, men som en medvandrer. Ikke som dommer, men som tjener. Ikke som mål i seg selv, men som et middel blant flere.
Elisabeth Austad Asser, s. 278
Oppsummert: Dette er en god innføring i teknologien vi nå møter daglig. Jeg er ingen teknolog, men har vært teknologisk interessert siden tenårene. Boka har vært nyttig for tanken, og både nye perspektiver og ord har blitt lagt til gammel kunnskap. Flere ganger har jeg vært innom dette med verdier, og Asser skal virkelig ha honnør for at hun holder dette høyt. At hun på konferanser, i boka og ellers løfter frem verdier som rettferdighet, empati osv, selv om hun også er tydelig på at «tekno-oligargene» (årets nyord) bare kjenner effektivitet og profitt.
På en samlig i Stupet på Hotel Norge spurte jeg henne etter hennes innlegg om nettopp dette: «Jeg er veldig enig med det du sier – vi trenger verdier inn i disse modellene. Selv er jeg opptatt av spesielt to: Konsumindre og langsomhet. Hvem er det som skal fremme disse verdiene overfor META, Google, Open AI m.fl.?» Da hadde ikke Asser noe annet svar enn: «Det er du!» Jeg er jo at hun er med på laget, men likevel føles det utrolig asymmetrisk. Lars og Elisabeth mot tek-oligarkene. Det er et ganske rått parti… Selv om EU kan ha fine ting, så er vi nå i en situasjon der EU som kraftsentrum virkelig har fått noen skudd for baugen. AI-utviklingen skjer ikke her…
Likevel vil jeg veldig gjerne anbefale deg denne boka som en god og lettlest innføring, med masse gode eksempler. Og det er plass til mange, mange flere som ønsker en mer verdibasert teknologisk utvikling!
verdier seminar Hotel Norge konsumindre/langsomhet – det er meg.
