Jeg har undret meg litt over disse begrepene, og nå tror jeg at jeg har fått tak i hva det handler om (takk til KI):
- Fremmedgjøring er ofte kollektivt forstått, men individuelt tålt
- Nummenhet er ofte individuelt erfart, men kollektivt produsert
Det skaper en slags blindflekk:
Vi snakker om systemet uten å kjenne det i kroppen,
og vi kjenner kroppen uten å koble det til systemet.
Et kort essay om tematikken som ble produsert ut fra mine refleksjoner:
Når verden slutter å svare
Fremmedgjøring er et ord som hører hjemme i bøker. Det tilhører analysen, systemet, kritikken. Hos Karl Marx beskriver det hvordan mennesket skilles fra sitt arbeid, fra produktet av det, fra andre mennesker og til slutt fra seg selv. I nyere tid har Hartmut Rosa formulert noe lignende som mangel på resonans: verden svarer ikke tilbake.
Det er et presist begrep. Men det er også et begrep som først og fremst peker utover.
Nummenhet peker innover.
Det er ikke et begrep vi vanligvis bruker for å beskrive samfunnet, men for å beskrive en tilstand i kroppen: når noe slutter å kjennes, når responsen dempes eller forsvinner. Innen traumeforståelse, slik blant andre Bessel van der Kolk beskriver det, kan nummenhet være en form for beskyttelse. Når belastningen blir for stor, skrur systemet ned.
Det interessante oppstår i overgangen mellom disse to.
For hva skjer når fremmedgjøring ikke bare er en idé om verden, men en erfaring i kroppen? Når mangelen på resonans ikke bare er et samfunnsproblem, men noe som setter seg som fravær av følelse?
Da blir nummenhet ikke bare et individuelt symptom, men en mulig konsekvens av en bestemt måte å organisere liv på.
Fremmedgjøring beskriver et brudd i relasjonen mellom menneske og verden. Nummenhet beskriver et brudd i relasjonen mellom menneske og seg selv. Det ene er strukturelt, det andre somatisk. Men de kan være to sider av samme prosess.
Vi lever i systemer som i økende grad krever tilpasning, effektivitet og kontinuerlig respons, samtidig som de gir stadig mindre rom for gjensvar. Arbeid, teknologi og institusjoner organiseres slik at vi skal fungere – men ikke nødvendigvis føle, eller bli berørt. Over tid kan det oppstå et paradoks: Jo mer vi deltar, desto mindre er vi til stede.
Kroppen løser dette på sin måte.
Når det blir for mye utenfra og for lite tilbake, kan den trekke seg. Ikke som et valg, men som en regulering. Nummenhet blir da ikke et avvik, men en funksjon: en måte å overleve på i et miljø som ikke svarer.
Det er her blindsonen oppstår.
Fremmedgjøring forstås ofte som noe politisk og kollektivt, men oppleves individuelt. Nummenhet oppleves individuelt, men produseres ofte kollektivt. Dermed risikerer vi å behandle det som egentlig er en sammenheng, som to separate problemer: Vi analyserer systemet uten å merke det, og vi forsøker å reparere kroppen uten å endre betingelsene den lever under.
Kanskje er det derfor nummenhet er så vanskelig å få øye på. Den føles ikke nødvendigvis dramatisk. Den kan ligne ro. Den kan ligne stabilitet. Den kan til og med ligne mestring.
Men den kan også være fraværet av noe.
Hvis fremmedgjøring er at verden slutter å svare, kan nummenhet være at vi slutter å lytte etter svaret.
Og da er ikke spørsmålet bare hvordan vi endrer systemene rundt oss, men også hvordan vi gjenoppretter forbindelsen – slik at noe igjen kan merkes som virkelig.
Jeg synes det er både fascinerende og skremmende hvordan mine litt uklare undringer kan bli strammet opp og klargjort av KI. Jeg tenker at dette øker akselerasjonen i tenkningen noe voldsomt for egen del, og definitivt gir mer nummenhet OG fremmedgjøring. Jeg vender meg utover for refleksjon, mer enn innover. Dette har jo allerede skjedd på mange områder (fx digitale kart, og husking av telefon- og kontonumre). Vi har også overlatt språkmodellene til private, og hva slags blindflekker legger de bevisst inn? Hvor kritiske er de til systemet? Alt har en «bias», og jeg tror den kommer til å bli mer og mer synlig, når vi er blitt så numne at vi ikke legger merke til den lenger.
Brave new world er innen rekkevidde…
Blir det mer eller mindre fremmedgjøring og nummenhet av å bruke KI?
Veldig godt spørsmål Eivind! Siterer fra siste avsnitt:
«Jeg tenker at dette øker akselerasjonen i tenkningen noe voldsomt for egen del, og definitivt gir mer nummenhet OG fremmedgjøring.»
Jeg tenker at dette egentlig er et svar på ditt spørsmål. Samtidig tolker jeg også ditt spørsmål dithen at vi «skummer» informasjon mer, og alltid søker et JA eller et NEI. I innledningen bruker jeg verbet «å undre». Jeg tenker at vi får færre og færre undringsrom, og at vi trenger mer ambivalens. Jeg kan i alle fall kjenne på en nytte av å få «sparring» av KI, samtidig som jeg ser at dette kanskje også vil bryte ned egne refleksjonsevner. Jeg tror ikke det er noen enkle svar her, men håper det blir mulig å reflektere mer over disse tingene. Opplever nå mye ukritisk bruk/ikke bruk.
Hva tenker du?
Jeg er fullt og helt avvisende til at KI i denne sammenhengen kan gjøre noe som helst godt eller nyttig for oss, igrunn. Av flere grunner. KI frarøver oss *prosessen* med å jobbe frem tanker, meninger, tekst. Da mister vi også egen utvikling, egen modning, og alle vanskeligheter og dilemmaer på veien. Bruk av KI gjør at folk i større grad tenker likt, skriver likt, formulerer seg likt.
På lang sikt kommer KI til å gjøre oss som individer og oss som samfunn dummere, og dårligere rustet til å håndtere den verden vi lever i. På den måten er bruk av KI også et maktspørsmål, et klassespørsmål, og et politisk spørsmål. En ting er deg og meg, som har et levd liv med kontekst og erfaringer og kunnskap vi kan holde KI-svarene opp mot. Vi har iallefall *noen* forutsetninger for å være kritiske til svarene vi får. Noe annet er det for de som vokser opp nå, som tar KI-svar for sannhet, uansett hva de er. Som verken kan eller vil utfordre svarene de får.
Da får vi også problemer når KI på død og liv skal stappes inn i alt av offentlig sektor, privat næringsliv, og alt annet. Vi får flere feil, større feil, og feil som kunne vært unngått. Vi får ansatte som ikke kan, ikke forstår, ikke evner å vurdere selv om det de gjør er riktig eller galt. Vi får et samfunn der det i enda større grad enn i dag blir viktigst at det *ser ut som* at vi gjør noe, heller enn at vi *faktisk* gjør noe. Det spiller ingen rolle om ungene faktisk lærer noe i skolen, så lenge KI får det til å se ut som at de gjør det. Det spiller ingen rolle om Nav faktisk hjelper noen, så lenge KI-svarene pumpes ut i høyt tempo, og ingen har forutsetninger til peke på hvorfor de er feil.
Og på toppen av alle de negative konsekvensene for enkeltmennesker og samfunn som følger av KI-bruken direkte, kommer alle de indirekte konsekvensene – oppblåsning av finansmarkeder, oppkjøp av maskinvareressurser som gjør det umulig for flere å ha egne PCer hjemme, bruk av strøm, vann, areal til datasentre, de systematiske bruddene på opphavsrett, at det undergraver inntektene til folka som gjør livet verdt å leve ved å lage kultur, bøker, bilder, kunst, musikk, osv osv osv.
Sånn sett er vel svaret mitt at KI gir meg enorme mengder av både fremmedgjøring og nummenhet. Det føles som at verden er i ferd med å gå under i et slags teater, en kollektiv psykose av noe slag, på nivå med klimafornektelse og alt det andre som er vanskelig i vår tid. KI ødelegger så mye for oss. Og det ligger bare an til å bli verre. Og vi er en veldig liten gjeng som prøver å stritte imot. Og når ting har gått som vi frykter, kommer det til å være for sent å gjøre noe med.
Som du skjønner er jeg like pessimistisk om dette som jeg er om det meste annet, hehe. Og unnskyld, dette blir jo helt sikkert mer personlig enn jeg liker det, når du jo bruker og liker KI. (Som jo er enda en faktor i fremmedgjøringen for min del – at det nesten føles som at jeg ender opp i en annen virkelighet enn folk jeg tidligere tenkte jeg delte virkelighet med, om det gir mening?)
Jeg setter stor pris på deg, Lars, og på alt du gjør og lager og tenker og skriver, bare så det er sagt. Jeg følger både deg og KI-utforskingen din med nysgjerrighet og interesse, selv om jeg som du skjønner er skeptisk til KI-bruk. Jeg vet at jeg er den rare her, og den som står igjen når toget går, og at bruk av KI er vanlig og akseptert og noe «alle» gjør nå. Jeg skjønner at det i samfunnets øyne er jeg som tar feil og er den som gjør ting vanskeligere enn de trenger å være. Men når du først spurte hva jeg tenkte, kunne jeg jo prøve å skrive så oppriktig som jeg klarer.
Hører gjerne mer hva du tenker om dette, såklart. Ønsker deg alt godt, uansett hva, og gleder meg til vi skrives eller prates igjen 🙂
Tusen takk for fyldig kommentar Eivind! Jeg pleier jo å skrive – «det Eivind skrev», og jeg er tilbøyelig til det nå også. Følger deg på alle punkter. Også har jeg også en annen side der jeg synes jeg får hjelp. Til å finne ord og tvister på ting. Til å få oversikt. I går snakket jeg med noen om at vi alltid har stått på hverandres skuldre, men nå oppleves det som om skulderne er utrolig brede. En slags kjempe.
Litt den samme følelsen jeg hadde på 90-tallet da Internett dukket opp. (Jeg skriver det fortsatt med stor I.) Plutselig hadde jeg hele verden i fingrene, og informasjonstilgang som var helt rå. Nå er jo dette tatt veldig mye lenger med mønstergjenkjenning og koblinger som jeg kanskje ville tenkt selv, men antagelig ikke i dette livet. Akselerasjonen øker markant – både på de gode og det onde sidene.
Jeg skrev vel en aforisme for noen dager siden om at når akselerasjonen øker, så er det flere og flere som kastes av i svingene. Jeg tror dette er riktig. Samtidig som dette angriper «klasse» på en annen måte. Nå er det ikke bare «filleproletariatet», men psykologer, jurister og andre som utfordres.
For noen år siden så jeg tilbake på Internettets spede barndom med Finn Holmer-Hoven som var sjefredaktør i Fædrelandsvennen da det skjedde på slutten av 90-tallet. Det var mye vi ikke forutså den gangen. Det har ikke blitt et demokratiseringsverktøy for eksempel. Særlig etter sosiale medier har det virket tvert i mot. Polariseringen bare øker. Og masse annet.
Utviklingen med KI har gått helt hensynsløst fort, og etikken henger etter. Jeg tror vi bare ser brøkdelen av de utfordringen vi står overfor. Så jeg er veldig takknemlig for at du «holder meg i kragen», og du er ikke alene. Ganske mange i min omgangskrets er svært skeptiske.
Jeg skal forsøke å holde nummenheten på avstand! Hengekøye med papirbok og flymodus på telefonen er god medisin! 🙂
Selv takk for gode betraktninger og fyldig svar!
Jeg tror internett i seg selv har stort potensiale for demokratisering. Problemet er vel blant annet at det også på internett er behov for regulering for at det skal fungere. De plattformene som idag er overtatt av tek-oligarker og brukes til propaganda og nedbygging, ble jo for 10-15 år siden brukt som plattformer for nettopp folkesamling, opplysning og samfunnsbygging, både på Facebook og Twitter. Problemet er at de som eier plattformene er mer interessert i å samle rikdom og makt, enn å bygge samfunn. Det taper vi alle på. Men det trenger jo ikke bety at internett i seg selv svekker demokratiet. Men jeg er enig i at internett er et mektig våpen som i høyeste grad kan brukes (og faktisk blir brukt) som et redskap for å undergrave både demokrati og tro på menneskeheten.
Et problem med KI er at man aldri vet om det som kommer er riktig eller sant. Hallusinasjoner er ikke et forbigående problem, det er en integrert del av måten disse systemene fungerer på. Det kommer aldri til å forsvinne. Det hjelper ikke at den ofte svarer riktig, når den også ofte svarer helt feil, uten å gi beskjed om hva som er hva. Den svarer med høy selvtillit, men ingen selvinnsikt. Og folk er folk. Vi liker så godt å høre svar som behager oss, og vil heller feste lit til et feil svar vi liker enn et riktig svar vi misliker. Kombinert med at KI-svarene kan styres av tek-gigantene som jobber aktivt for å undergrave både demokrarti, folkeopplysning og velferdssamfunnene våre, ender vi jo opp med at KI ikke egentlig kan stoles på eller brukes til noe som helst.
Jeg synes også det er ganske uinteressant å lese, høre eller konsumere innhold laget av KI, både i tekst, bilder, lyd og ellers. Alle disse mediene kommuniserer menneskelige inntrykk og erfaringer, og grunnen til at jeg liker dem er at de resonnerer mer eller mindre med mine egne menneskelige erfaringer. Når innholdet er gulpet opp av en datamaskin mister det absolutt all relevans for meg. (Selv om det helt sikkert skjer at jeg ser KI-innhold uten å skjønne at det er det. Men det gjør det tristere og verre, ikke bedre, i mine øyne..).
Det kan godt hende jeg etterhvert blir som han som mente internett var en flopp. Hvem vet. Men jeg er fortsatt skeptisk til KI, altså, hehe.
Og godt å høre at du fortsatt bedriver hengekøye og papirbok! Vi kommer til å trenge mer av den slags fremover også 🙂
Denne dukket opp i feeden nå:
«Analysis Finds That Google’s AI Overviews Are Providing Misinformation at a Scale Possibly Unprecedented in the History of Human Civilization
Google’s AI Overviews are peddling misinformation on a scale that may be virtually unprecedented in human history.
A recent analysis conducted by the AI startup Oumi at the behest of The New York Times found that the AI-generated summaries, which appear above Google search results, are accurate around 91 percent of the time.
In a sense, that may sound like an impressive figure. But here’s an even more impressive one: five trillion. That’s roughly the number of search queries that Google processes every year, translating to tens of millions of wrong answers that the AI Overviews are providing every hour — and hundreds of thousands every minute, the analysis calculated.
In other words, Google has created a misinformation crisis. Studies have shown that people tend to trust what an AI tells them without question, with one report finding that only 8 percent of users actually double checked an AI’s answer. Another experiment found that users still listened to AI when it gave them the wrong answer nearly 80 percent of the time — a grim trend the researchers dubbed “cognitive surrender.”
Large language models adopt an authoritative tone and can confidently present fabricated information as fact when it can’t immediately glean a straight answer. Add the convenience that Google’s AI Overviews offer, and it’s easy to imagine untold numbers of users taking its summaries at their word.»
https://futurism.com/artificial-intelligence/google-ai-overviews-misinformation
Takk for både kommentar og innklipp! Jeg tar det med meg videre – og likte spesielt parantesen din. Jeg synes også AI generert innhold blir forflatet, også ser jeg jo at det er mange måter å kreere innhold på som gjør det vanskelig å oppdage. Men, feeden blir jo mer og mer fylt opp av AI, så da er det mye som går under radaren.
Min erfaring er at hallusineringen går ned, men enig i at den alltid vil være der. Så vi må sjekke! (Og her er jeg sikker på at jeg har syndet noen ganger.) Hovedutfordringen her er nok at det som oftest er riktig, og dermed senkes guarden.
Også spennende det du skriver om Internettets «barndom». Jeg tror også at vi vil få se mer tydelige bias og markedsføring her etterhvert. Akkurat nå er ikke det for påtrengende synes jeg, men mulig jeg er for naiv.
Men, tror du at KI er en «flopp»? Jeg tolker deg mer dithen at du ser mange farer med denne teknologien. I kommunen kjører de nå et forsøksprosjekt med KI og byggesak (sammen med UiA). Her er det klare regler, og kanskje kan bruken av reglene gjøre det mer rettferdig enn at det brukes mye skjønn? Så må det selvsagt være mulig å klage, men dette vil spare en del jobb/gryn som kunne hatt alternativ anvendelse.
Det skumleste nå synes jeg er tapet av blikk-kontakt. Flere og flere har en bot/KI som nærmeste samtalepartner (kjærest/kollega/PT/psykolog/kostholdsrådgiver osv). Da er det definitivt noe som blir borte. Tenker på hudkontakten og de barna som ble lagt i kuvøse. Jeg tror noe av det samme kan skje ved bortfall av blikk-kontakt. Kanskje er det noe av det vi ser med ungdom som har vokst opp med smart-telefon? Men, det handler om mye mer enn KI.
Takk så langt Eivind! Vi holder tråden! 🙂
Men da er jo også et dilemma at stadig mer KI-innhold i feeden vil gjøre feeden ubrukelig og uinteressant for de fleste?
Jeg tror mengden hallusinering er ganske stabil. Det er eksempler på at de hard-koder inn funksjonalitet som reduserer de mest populære eksemplene på feil. Men rent funksjonelt er hallusinering en uungåelig del av KI.
Jeg er EKSTREMT motvillig til å akseptere bruk av KI i offentlig forvaltning. Både i byggesaker og trygdesaker og hva det enn skulle være. KI er bare ord i rekkefølge som er statistisk sannsynlig gitt input og kontekst. Det er ingenting som tilsier at to like tilfeller behandles likt av en KI. Det er heller ingen garantier for at den forstår reglene, eller vurderer sakene riktig.
Og noen ganger er jo bruk av skjønn helt nødvendig for å få resultater som oppleves som riktige og rettferdige. Hvis man lager regler som ikke bruker skjønn, hender det ofte også at man flytter de skjønnsmessige vurderingene til faktagrunnlaget, heller enn til lovregelen. Verden er jo like komplisert og nyansert selv om reglene blir mer firkanta, mener jeg. Og heller enn å gjøre vurderinger av hva som er innenfor og utenfor i regelen, så må man kategorisere virkeligheten i firkanta bokser for at reglene skal ha mindre innslag av skjønn. Men vurderingen av hvilke deler av virkeligheten som passer i boks A; og hvilke som passer i boks B, kan fortsatt være like skjønnsmessig som før.
Men her er vi jo igjen i kjernen av både new public management og noen av de sørgelige sidene av vår tid. Så lenge vedtakene fattes fort, så kommer vel ikke mellomlederne og direktørene til å ha problemer med at vedtakene er feil. Det er viktigere at det *ser ut som* at vi løser samfunnets problemer, enn at vi faktisk gjør det. Da blir det mindre viktig at vedtakene er riktige, og mer vktig at de produseres effektivt.
Også helt enig med deg i at det er bekymringsverdig at vi mister menneskelig kontakt. Det har vi gjort mye allerede pga sosiale medier, men vi gjør det enda mer nå med KI. Og den ensomheten og frakoblingen som følger, gir eksplosivt grunnlag for utnyttelse av mennesker med dårlige politiske motivasjoner – det er enklere å bygge ekstremisme på ensomhet og raseri, enn på personer som står stødig i et fellesskap og et samfunn.
Takk igjen.
Jeg er nok litt mer åpen for å anvende regelbaserte systemer til autmatisering av ting enn det du gir inntrykk av. Samtidig som det fortsatt skal være mulighet til å vise skjønn. Jeg tror (og håper) at det er mulig å få til begge deler.
Også er jeg EKSTREMT takknemlig for at du er motvillig. Jeg kjenner det beveger meg mer i kritisk retning, samtidig som jeg fortsatt ikke har overbevisning nok til å kutte all bruk. Til det er det for nyttig i min hverdag. Men, det gjør meg definitivt mer kritisk – og det er jeg glad for at du hjelper meg med.
Og det siste er vi jo fullstendig enige om, og jeg låner avslutningen din til en ny aforisme:
«Ekstremisme vannes av ensomhet og raseri, og motvirkes av gode fellesskap og velfungerende samfunn.»
Men KI er jo ikke regelbasert? Automatisk saksbehandling i betydning tradisjonelle algoritmer er regelbasert, og de er jeg bare normalt skeptisk til. Der vil situasjon A alltid føre til utfall B, og man kan kontrollere utfallet fordi man kontrollerer de vurderingene som gjøres mellom input og output. Hvis output blir noe annet enn man ønsker, kan man gå inn og justere vurderingene ved å endre programkoden.
Med KI er vurderingen en svart boks. Man aner ingenting om hva KI’en har vurdert, hva den har lagt vekt på, om den har vurdert ting likt som i forrige sak, om situasjonen er ulik eller ikke, osv osv. Det er ikke mulig å programmere KI’er på noen måte som ligner regelbaserte systemer, fordi KI’er bare genererer tekst der og da som er statistisk sannsynlig gitt kontekst og input.
Og jeg liker aforismen! Tror den er og blir viktig i tiden vi lever i nå, sørgelig nok. Håper den blir overflødig en gang.
Jeg mener å huske at i boka til Elisabeth Asser omtaler hun både regelbaserte modeller og språkmodeller som KI. Uansett bra vi kan avklare det. Jeg mener regelbaserte algoritmer som gir samme svar hver gang. Tror hun bruker generative modeller om det du omtaler som «svart boks». Da er vi inne i et annet terreng.
Takk igjen for aforismen! 🙂