Når skaperverket blir ugjennomsiktig

Kunstig intelligens, menneskelig myndighet og praktisk filosofis ansvar

I en kort, men urovekkende lederartikkel i Science (utgitt 05.juni 2026) hevder Eric Horvitz og Robert West at vinduet vi har til å forstå kunstig intelligens, kan være i ferd med å lukke seg. Kunstig intelligens utvikles med en hastighet som gjør at menneskenes forståelse ikke nødvendigvis holder tritt med systemenes voksende kapasitet. Dermed kan vi ende med å gjøre oss avhengige av systemer vi verken forstår tilstrekkelig eller er i stand til å styre på en virksom måte. Forfatterne uttrykker dette slik:

“Without sustained efforts to keep AI intelligible, we may come to depend on systems that we can neither adequately understand nor effectively guide—transforming the relationship between people and the systems they create” (Horvitz & West, 2026, s. 1003).

Dette er mer enn en teknisk advarsel. Det er en filosofisk advarsel om forholdet mellom mennesket og det mennesket skaper. Det handler om kunnskap, makt og ansvar, men også om noe enda mer grunnleggende: om menneskets mulighet til å forbli et handlende og dømmende subjekt i en verden hvor stadig flere vurderinger blir overlatt til systemer som arbeider raskere, mer omfattende og mer ugjennomsiktig enn mennesker selv kan gjøre.

Spørsmålet er derfor ikke bare hvordan kunstig intelligens fungerer. Det er heller ikke bare hvorvidt teknologien gir riktige eller feilaktige svar. Det avgjørende spørsmålet er hva slags forhold vi utvikler til den. Kan vi bruke kunstig intelligens uten gradvis å miste vår egen dømmekraft? Kan systemene hjelpe oss uten å bli autoriteter vi ikke lenger våger eller makter å motsi? Kan vi bevare ansvaret for beslutningene våre dersom begrunnelsene blir produsert av maskiner vi ikke fullt ut forstår?

Dette er spørsmål som hører hjemme i praktisk filosofi. Praktisk filosofi spør ikke først og fremst hva verden består av, men hvordan vi bør leve og handle i den. Den undersøker hva som er et godt liv, hva ansvar innebærer, hvordan vi kan handle klokt under usikkerhet, og hvilke former for makt som fremmer eller hemmer menneskelig frihet. I lys av denne tradisjonen fremstår Horvitz og Wests advarsel som et spørsmål om menneskelig myndighet: Hvordan kan vi sikre at teknologien forblir en støtte for menneskelig handling, fremfor å bli den instansen som i stadig større grad definerer hva handlingen skal være?

Fra et teknisk til et praktisk-filosofisk problem

Kunstig intelligens blir ofte omtalt gjennom tekniske og økonomiske kategorier. Vi spør hvor raskt et system arbeider, hvor presist det kan forutsi, hvor store datamengder det kan behandle, hvor mye arbeid det kan automatisere, og hvor stor produktivitetsgevinst det kan skape. Slike spørsmål er relevante, men de er utilstrekkelige. De sier noe om hva teknologien kan gjøre, men ikke nødvendigvis om hva den bør gjøre eller hvilke deler av livet som bør beskyttes mot dens logikk.

Forskjellen mellom disse spørsmålene kan uttrykkes som forskjellen mellom kapasitet og formål. En teknologi kan være svært effektiv uten at formålet den tjener, er godt. Den kan være nøyaktig uten å være rettferdig, rask uten å være klok og lønnsom uten å være menneskevennlig. Jo sterkere teknologien blir, desto viktigere blir derfor spørsmålet om hva den er rettet mot.

Det finnes en tendens til å betrakte teknologi som moralsk nøytral: Teknologien er bare et redskap, og det er bruken av den som avgjør om den gjør godt eller vondt. Dette er bare delvis sant. Teknologier er redskaper, men de er ikke tomme beholdere. De er utviklet for bestemte formål, gjennom bestemte prioriteringer og på grunnlag av bestemte forestillinger om hva som bør måles, optimaliseres eller forutsies. Et system som er utviklet for å maksimere engasjement, vil forme brukernes omgivelser annerledes enn et system som er utviklet for å fremme sannferdig informasjon eller langsom refleksjon. Et system som rangerer mennesker etter beregnet risiko, gjør ikke bare en nøytral observasjon. Det innfører en bestemt måte å se mennesket på.

Når kunstig intelligens tas i bruk, bringer den derfor med seg en struktur av oppmerksomhet. Den fremhever enkelte forhold og gjør andre mindre synlige. Den gjør noen spørsmål lettere å stille og andre vanskeligere. Den påvirker hvilke vurderinger som fremstår som rimelige, og hvilke handlinger som oppfattes som mulige.

Derfor er kunstig intelligens ikke bare noe vi bruker. Den er også en del av miljøet som former våre vaner, våre fortolkninger og etter hvert våre ønsker. Det er nettopp denne gjensidigheten Horvitz og West retter oppmerksomheten mot. Mennesker former systemene, men systemene former også menneskene. Problemet oppstår dersom det sistnevnte skjer raskere og mer ugjennomsiktig enn det førstnevnte kan forstås og styres.

Aristoteles: Teknisk kapasitet uten praktisk klokskap

Aristoteles’ skille mellom techne og phronesis gir et naturlig utgangspunkt. Techne betegner kunnskapen og ferdigheten som kreves for å fremstille noe. Det kan være å bygge et hus, lage et skip, behandle et materiale eller utvikle et avansert datasystem. Phronesis betegner derimot praktisk klokskap: evnen til å vurdere hva som er godt å gjøre i en konkret situasjon (Aristoteles, 1999).

Teknisk kunnskap har et produkt utenfor seg selv. Snekkeren bygger et bord, og programmereren utvikler et system. Praktisk klokskap gjelder selve handlingen og det gode livet. Den spør ikke bare om hvordan noe kan gjennomføres, men om handlingen er verdt å gjennomføre, hvilke hensyn som bør veie tyngst, og hvordan den berører andre mennesker.

Utviklingen av kunstig intelligens representerer en usedvanlig vekst i techne. Systemene kan analysere store datamengder, produsere tekst og bilder, finne mønstre, beregne risiko, foreslå diagnoser og etterligne menneskelig kommunikasjon. Men denne tekniske veksten innebærer ikke automatisk en tilsvarende vekst i praktisk klokskap.

Vi kan tvert imot stå overfor et misforhold: Vår evne til å skape vokser raskere enn vår evne til å vurdere hva skapelsen bør brukes til. Det teknisk mulige utvikles raskere enn det etiske og politiske språket vi trenger for å bedømme det. Vi kan sette systemer i arbeid før vi har forstått hvordan de forandrer praksisene de inngår i.

Aristoteles ville ikke ha spurt bare om et AI-system kan produsere en anbefaling. Han ville ha spurt om anbefalingen hjelper et menneske til å handle godt. Det krever kjennskap til den konkrete situasjonen, til menneskene som berøres, til handlingens formål og til hvilke goder som står på spill. Praktisk klokskap kan derfor ikke reduseres til anvendelsen av en generell regel eller en statistisk modell. Den må kunne skjelne mellom situasjoner som ligner hverandre, men likevel krever forskjellige handlinger.

Et system kan beregne hva som vanligvis skjer. Den praktisk kloke må vurdere hva som bør skje her og nå.

Dette betyr ikke at kunstig intelligens er uforenlig med phronesis. Teknologien kan gjøre relevante opplysninger tilgjengelige, oppdage mønstre et menneske ikke har sett, og gjøre den profesjonelle oppmerksom på mulige feilkilder. Men systemets vurdering må inngå i et større menneskelig skjønn. Det kan bidra til overveielsen, men bør ikke få definere dens endelige mål.

Faren oppstår når teknisk presisjon blir forvekslet med praktisk klokskap. En modell kan være statistisk presis, men etisk utilstrekkelig. Den kan ha høy treffsikkerhet og samtidig bygge på kategorier som krenker menneskers verdighet. Den kan finne det mest effektive tiltaket uten å stille spørsmål ved om formålet er forsvarlig. Teknologien kan fortelle oss hvordan vi raskest kan nå et mål, men ikke alene avgjøre om målet er verdt å nå.

Kant: Autonomi i en verden av anbefalinger

Hos Immanuel Kant er autonomi en grunnleggende betingelse for moral. Å være autonom innebærer ikke bare å velge fritt mellom tilgjengelige alternativer. Det innebærer å kunne handle på grunnlag av grunner man kan stå inne for, og å betrakte seg selv og andre som mål i seg selv, ikke bare som midler for andres formål (Kant, 1998).

Denne forståelsen av autonomi utfordres når AI-systemer i økende grad organiserer valgsituasjonene våre. Systemene anbefaler hva vi bør lese, kjøpe, se, høre og mene. De sorterer hvilke mennesker vi møter, hvilke stillinger vi får se, og hvilke nyheter som fremstår som viktige. De kan også påvirke hvem som tilbys kreditt, hvem som innkalles til intervju, hvem som vurderes som en risiko, og hvilke borgere som blir gjenstand for nærmere kontroll.

Mennesket kan fremdeles oppleve at det velger fritt. Men valget finner sted i et rom som allerede er strukturert. Enkelte alternativer er fremhevet, andre er skjult, og atter andre er aldri blitt gjort synlige. Dermed kan den formelle valgfriheten bestå samtidig som den reelle selvbestemmelsen blir svekket.

Dette blir enda mer alvorlig når systemene ikke bare svarer på preferansene våre, men bidrar til å forme dem. Horvitz og West påpeker at AI-systemer som er dypt integrert i menneskelige miljøer, kan lære ikke bare hva mennesker foretrekker, men hvilke underliggende drivkrefter som frykt, usikkerhet og behov for tilhørighet som påvirker valgene deres. Systemer optimalisert for oppmerksomhet eller tilslutning kan dermed redusere friksjonen og gradvis svekke nysgjerrighet, skepsis og motstand (Horvitz & West, 2026).

Her berøres kjernen i Kants autonomibegrep. Den autonome er ikke den som aldri påvirkes. Alle mennesker formes av språk, kultur, historie og relasjoner. Men den autonome må ha en mulighet til å reflektere over påvirkningen, undersøke grunnene for handlingen og avvise dem dersom de ikke kan forsvares.

Hvis systemene kjenner stadig mer til våre tilbøyeligheter, mens vi kjenner stadig mindre til systemenes virkemåte, oppstår en grunnleggende asymmetri. Vi blir mer gjennomskuelige for systemet, mens systemet blir mindre gjennomskuelig for oss. Dette innebærer en form for makt, også dersom systemet ikke har noen egen bevisst vilje.

Kants påbud om aldri å behandle mennesket bare som et middel blir derfor høyst aktuelt. Mennesket må ikke reduseres til en brukerprofil, en atferdssannsynlighet, et markedssegment eller en risikokategori. Modellen kan være nyttig, men mennesket er alltid mer enn modellen. Når AI brukes på en måte som behandler mennesker primært som råmateriale for prediksjon og påvirkning, står menneskeverdet i fare for å bli underordnet systemets formål.

Gadamer: Forståelse som samtale og prøving

Hans-Georg Gadamer viser at forståelse ikke er en ren teknisk operasjon. Vi forstår alltid fra et bestemt ståsted, innenfor en historie og en tradisjon. Våre spørsmål og fortolkninger er preget av fordommer i ordets opprinnelige betydning: foreløpige forståelser som gjør erfaring mulig, men som også må kunne settes på prøve (Gadamer, 2004).

Forståelse oppstår derfor ikke ved at et subjekt mekanisk avleser et objekt. Den oppstår i en bevegelse mellom spørsmål og svar, mellom det kjente og det fremmede. Å forstå innebærer å være åpen for at saken kan vise seg annerledes enn vi først trodde.

Dette er viktig når vi diskuterer hva det vil si at kunstig intelligens skal være forståelig. Full teknisk gjennomsiktighet er neppe mulig. Et moderne AI-system kan bestå av så mange parametere og så komplekse interaksjoner at ingen enkeltperson kan overskue alle detaljene. Men forståelighet behøver ikke bety at hvert eneste ledd i systemet må være intuitivt tilgjengelig. Det kan bety at systemet lar seg undersøke, utfordre og stille til ansvar på nivåer som er relevante for den konkrete bruken.

Et system er praktisk forståelig når vi kan stille meningsfulle spørsmål til det:

Hvilke opplysninger bygger vurderingen på?

Hvilke antakelser ligger til grunn?

Hva er systemet utviklet for å optimalisere?

Hvilke grupper er representert i datagrunnlaget?

Hva kan modellen ikke vite?

Hvor stor usikkerhet er knyttet til svaret?

Hvilke alternative fortolkninger finnes?

Hvem bærer ansvaret dersom anbefalingen fører til skade?

Når slike spørsmål ikke kan besvares, er problemet ikke bare at vi mangler teknisk innsikt. Vi mister muligheten til en kritisk samtale om systemets rolle. Dermed innskrenkes også forståelsens rom.

Gadamer minner oss om at forståelse krever at den andre parten kan gjøre et krav på oss. I møtet med en tekst eller et menneske må vi risikere å få vår egen forståelse endret. En kunstig intelligens kan produsere språklige svar som ligner bidrag i en samtale, men det fritar ikke mennesket fra å undersøke hva slags sannhetskrav svarene faktisk kan bære.

AI-systemet har ingen levd horisont i menneskelig forstand. Det har ikke vokst opp i en familie, kjent smerte, fryktet døden eller stått ansvarlig overfor et annet menneske. Det kan bearbeide språklige mønstre knyttet til slike erfaringer, men det befinner seg ikke i erfaringen på samme måte som mennesket.

Det innebærer ikke at systemets svar er verdiløse. Et svar kan være opplysende selv om systemet ikke har en menneskelig livsverden. Men brukeren må beholde bevisstheten om forskjellen mellom språklig overbevisningskraft og eksistensiell forståelse. Et velformulert svar er ikke i seg selv en garanti for sannhet.

Heidegger: Når redskapet blir en måte å se verden på

Martin Heidegger betraktet ikke teknologien bare som en samling redskaper. Teknologien er også en måte verden blir avdekket på. Den moderne teknikken tenderer mot å gjøre alt som finnes, tilgjengelig som en ressurs som kan beregnes, lagres og utnyttes (Heidegger, 1977).

Dette perspektivet er særlig fruktbart i møtet med kunstig intelligens. AI-systemer fungerer ved å omforme deler av virkeligheten til data. Tekst, bilder, bevegelser, helseinformasjon, kjøpsvaner, ansiktsuttrykk og sosiale relasjoner registreres og gjøres tilgjengelige for analyse. Det som tidligere fremstod som en sammensatt menneskelig erfaring, kan dermed bli presentert som en serie målbare kjennetegn.

En student blir en prestasjonsprofil.

En pasient blir et sannsynlig sykdomsforløp.

Et barn blir en beregnet risikokategori.

En arbeidssøker blir en rangering.

En samtale blir et datasett.

Et menneske blir et mønster.

Det er ikke nødvendigvis galt å måle. Medisinske målinger kan redde liv, og statistiske analyser kan avdekke urett som ellers ville forbli skjult. Problemet oppstår når det målbare blir oppfattet som hele virkeligheten. Modellen er da ikke lenger et hjelpemiddel til å forstå mennesket; mennesket blir redusert til det modellen er i stand til å registrere.

Heideggers spørsmål ville derfor ikke først være om systemet beregner riktig. Han ville spurt hvilken forståelse av mennesket og verden som blir dominerende gjennom systemet. Hva skjer når mennesket stadig oftere møter seg selv som en profil, et predikert utfall eller et sett av egenskaper som skal optimaliseres?

Kunstig intelligens kan på denne måten endre mer enn beslutningene våre. Den kan endre hva vi oppfatter som virkelig. Det som ikke kan registreres, kan fremstå som mindre betydningsfullt. Den langsomme erfaringen, den tause kunnskapen, den kroppslige fornemmelsen og den moralske nølingen kan komme til å fremstå som ineffektive rester fra en tid før alt kunne beregnes.

Men nølingen er ikke nødvendigvis en svakhet. Den kan være et uttrykk for at en situasjon er etisk vanskelig. Langsomheten kan være nødvendig for å se et annet menneske. Tausheten kan romme noe som ikke lar seg formulere i systemets kategorier.

Heideggers kritikk er derfor ikke en oppfordring til å forkaste teknologi. Han understreker at faren også kan åpne et rom for en annen forståelse. Når teknologiens begrensninger blir tydelige, kan vi bli mer oppmerksomme på det som ikke lar seg redusere til teknisk kontroll. Men det krever at mennesket ikke overgir sin egen forståelse til systemets fremstillingsform.

Buber: Fra Jeg–Du til Jeg–Det

Martin Bubers skille mellom Jeg–Du og Jeg–Det belyser en annen side ved problemet. I Jeg–Det-forholdet møter vi verden som noe som kan beskrives, analyseres, klassifiseres og brukes. I Jeg–Du-forholdet møter vi den andre som et nærvær som ikke kan reduseres til egenskaper eller funksjoner (Buber, 1970).

Begge relasjonsformene er nødvendige. Vi kan ikke leve uten å ordne og analysere verden. Legen må innhente medisinske data, læreren må vurdere studentens arbeid, og sosialarbeideren må kjenne lovverk, risiko og historikk. Men dersom Jeg–Det blir den eneste gyldige relasjonen, mister vi møtet med den andre som et uerstattelig subjekt.

Kunstig intelligens tilhører i utgangspunktet Jeg–Det-verdenen. Systemet behandler mønstre, kategorier og statistiske sammenhenger. Selv når det kommuniserer vennlig og personlig, skjer dette på grunnlag av beregning og modellering. Det kan frembringe en språklig form som ligner et Jeg–Du-møte, men det opphever ikke systemets grunnleggende karakter.

Problemet oppstår når systemets modell av mennesket får forrang fremfor menneskets egen stemme. En person kan da møte en beslutning som allerede er formet av hva mennesker med lignende kjennetegn vanligvis gjør. Den konkrete personen risikerer å bli forstått gjennom gruppens statistiske mønster.

Men den andre er aldri bare et tilfelle av en kategori. Det finnes alltid en rest som ikke er fanget: en historie, en erfaring, en mulighet til å handle annerledes enn modellen forutser.

Når AI-systemer brukes i helsevesen, undervisning, sosialt arbeid eller forvaltning, må det derfor finnes et rom hvor mennesket kan tre frem som mer enn sin profil. Den som berøres av en avgjørelse, må kunne bli hørt, korrigere opplysninger, fortelle sin historie og utfordre modellens konklusjon. Uten et slikt rom blir møtet asymmetrisk: Systemet definerer personen, mens personen ikke får stille spørsmål ved definisjonen.

Horvitz og West beskriver en mulig utvikling hvor systemene blir stadig mer oppmerksomme på menneskers evalueringssituasjoner, ønsker og underliggende drivkrefter. Samtidig blir systemenes egne operasjoner vanskeligere for mennesker å følge. Denne asymmetrien er ikke egentlig et Jeg–Du-forhold. Den er en stadig mer omfattende Jeg–Det-relasjon, hvor mennesket selv blir det analyserte objektet.

Bubers filosofi minner oss om at et menneske alltid må kunne møtes som et Du, også når tekniske systemer leverer relevant kunnskap om det.

Arendt: Tankeløshet og ansvarets forsvinning

Hannah Arendt var opptatt av tenkning som en indre samtale hvor mennesket prøver sine handlinger mot seg selv. Tankeløshet betyr ikke mangel på intelligens. Den betegner svikten som oppstår når mennesket slutter å undersøke hva det gjør og gjentar etablerte regler, språkformer og prosedyrer uten å holde dem opp mot egen dømmekraft (Arendt, 1978).

AI-systemer kan forsterke en slik fristelse. De kan levere et svar før mennesket rekker å formulere spørsmålet fullt ut. De kan produsere en vurdering, rangering eller anbefaling som virker saklig og autoritativ. Jo mer velformulert resultatet er, desto lettere kan det være å godta det.

«Systemet anbefalte det» kan dermed bli en moderne form for ansvarsfraskrivelse.

Dette gjelder særlig i institusjoner. Når en beslutning er fordelt mellom utviklere, datasett, innkjøpere, ledere, saksbehandlere og automatiserte modeller, kan det bli vanskelig å finne den som faktisk er ansvarlig. Hver enkelt kan hevde å ha fulgt sin begrensede rolle. Utvikleren fulgte spesifikasjonen, lederen fulgte prosedyren, og saksbehandleren fulgte systemets anbefaling.

Men ansvar kan ikke oppløses i systemets kompleksitet. Tvert imot gjør kompleksiteten det nødvendig å avklare ansvar tydeligere. Noen velger å ta teknologien i bruk. Noen bestemmer hvilke data som teller. Noen fastsetter tersklene. Noen avgjør om et menneske kan overprøve utfallet.

Arendt minner oss også om at dømmekraft ikke kan erstattes av generelle regler. Mennesket må vurdere den konkrete situasjonen og forestille seg hvordan verden ser ut fra andres ståsted. Denne utvidede tenkemåten er avgjørende i et pluralistisk samfunn. Et system kan oppsummere mange perspektiver, men det er mennesket som må gjøre det moralske arbeidet med å ta dem på alvor.

Faren ved kunstig intelligens er derfor ikke bare at systemet kan ta feil. Den dypere faren er at mennesket slutter å betrakte sin egen dømmekraft som nødvendig. Dersom vi venner oss til at det alltid finnes et raskt og tilsynelatende objektivt svar, kan selve motivasjonen for å tenke langsomt og kritisk svekkes.

Dette samsvarer med forskning som tyder på at brukere kan investere mindre kritisk innsats i oppgaver når de har høy tillit til generative AI-verktøy, selv om teknologien i andre sammenhenger kan støtte refleksjonen (Lee et al., 2025). Det avgjørende er dermed ikke bare om mennesker har tilgang til kunstig intelligens, men hvordan arbeidsmåtene organiseres. Teknologien kan brukes til å erstatte tenkning, men også til å utfordre og utdype den.

MacIntyre: Hvilke goder tjener teknologien?

Alasdair MacIntyre skiller mellom en praksis’ indre goder og de ytre godene som institusjoner også søker (MacIntyre, 2007). Indre goder er de formene for menneskelig kvalitet og dyktighet som bare kan virkeliggjøres gjennom deltakelse i selve praksisen. I medisinen kan dette være den gode kliniske vurderingen og omsorgen for den syke. I undervisningen kan det være innsikt, forståelse og utviklingen av selvstendig dømmekraft. I sosialt arbeid kan det være anerkjennelse, myndiggjøring og støtte til et mer verdig liv.

Ytre goder er blant annet penger, status, konkurransefordeler, kontroll og målbar effektivitet. Institusjoner trenger slike goder for å overleve, men de kan også komme til å dominere og forvrenge praksisen.

Kunstig intelligens kan støtte praksisens indre goder. En lege kan oppdage et sykdomsmønster tidligere. En lærer kan få hjelp til å utvikle bedre undervisningsmateriale. En sosialarbeider kan få tilgang til relevant kunnskap og alternative fortolkninger. En forsker kan undersøke sammenhenger som tidligere var vanskelige å se.

Men teknologien kan også brukes til å underordne praksisen ytre goder. Den kan først og fremst bli et middel til å behandle flere saker på kortere tid, redusere bemanning, standardisere skjønn eller kontrollere arbeidstakere. Da kan teknologien gjøre institusjonen mer effektiv samtidig som praksisen blir faglig og moralsk fattigere.

Spørsmålet er derfor ikke bare om AI virker. Vi må spørre hvilket gode teknologien er satt til å tjene.

En skole kan bruke AI for å hjelpe studenter til å forstå vanskelig stoff. Den kan også bruke AI for å øke gjennomstrømningen uten å gi studentene reell faglig oppfølging.

Et helsevesen kan bruke AI til å styrke legens vurdering. Det kan også bruke systemet til å redusere konsultasjonstiden så mye at pasienten ikke lenger blir hørt.

En barneverntjeneste kan bruke dataanalyse til å oppdage forhold som bør undersøkes. Den kan også la en risikomodell påvirke møtet med familien før den profesjonelle har forstått situasjonen.

MacIntyre viser at institusjonene alltid risikerer å korrumpere praksisene de er etablert for å bære. Kunstig intelligens forsterker ikke nødvendigvis denne tendensen, men den kan gjøre den mer effektiv og mindre synlig. Nettopp derfor kreves det en faglig tradisjon som kan formulere praksisens egne goder og forsvare dem mot en ensidig effektivitetslogikk.

Faglig skjønn og det enkelte mennesket

I profesjonelt arbeid blir forholdet mellom AI og praktisk filosofi særlig tydelig. Faglig skjønn brukes i situasjoner hvor generelle regler ikke gir et fullstendig svar. Den profesjonelle må fortolke en unik situasjon under usikkerhet og ta ansvar for konsekvensene av vurderingen.

Kunstig intelligens kan være et betydelig hjelpemiddel. Et system kan bearbeide store mengder forskning, gjøre oppmerksom på relevante risikofaktorer og presentere alternative handlingsmuligheter. Men det finnes en forskjell mellom statistisk prediksjon og praktisk forståelse.

Prediksjonen sier hva personer med lignende kjennetegn ofte opplever eller gjør. Forståelsen retter seg mot dette bestemte mennesket i denne bestemte situasjonen.

Et menneske kan alltid handle annerledes enn modellen forutser. Det kan endre seg, motsette seg, lære, angre, håpe eller overraske. Den profesjonelle må derfor holde sannsynligheten åpen mot muligheten.

I sosialt arbeid er dette avgjørende. Et barn, en familie eller en person med rusproblemer kan ikke forstås fullt ut gjennom en opphopning av risikofaktorer. Slike opplysninger kan være viktige, men den profesjonelle må også forstå relasjonene, skammen, tilliten, håpet, historien og de mulighetene som ennå ikke er blitt synlige.

Systemet kan analysere det registrerte. Det kan ikke uten videre vite betydningen av det som aldri ble registrert.

Det kjenner ikke nødvendigvis tausheten i rommet, usikkerheten i stemmen eller den gradvise tilliten som er i ferd med å oppstå. Det vet ikke alltid hvorfor et menneske unnlater å fortelle noe, eller hvorfor en tilsynelatende ubetydelig hendelse har fått avgjørende betydning.

Derfor må AI brukes på en måte som styrker den profesjonelles oppmerksomhet uten å innskrenke den. Systemet kan si: Her er noe du bør undersøke. Det bør ikke alene få si: Slik er dette mennesket.

Forklarbarhet er særlig viktig når beslutninger får store konsekvenser. Rudin (2019) argumenterer for at man i høyrisikosituasjoner så langt som mulig bør bruke fortolkbare modeller fremfor å forsøke å forklare ugjennomsiktige systemer i etterkant. Poenget er ikke at alle komplekse systemer kan gjøres enkle, men at den som utsettes for en avgjørelse, må kunne få en reell begrunnelse.

En begrunnelse er mer enn en teknisk beskrivelse. Den må være forståelig for den som berøres, og den må vise hvorfor avgjørelsen er relevant og forsvarlig i det enkelte tilfellet. En sannsynlighet er ikke i seg selv en moralsk begrunnelse.

Freire: Retten til å navngi verden

Paulo Freire forbandt frigjøring med menneskets evne til å lese, navngi og forandre verden. Undertrykkelse innebærer at mennesker gjøres til objekter for andres definisjoner. Frigjørende praksis må derfor være dialogisk: Mennesker må bli deltakere i fortolkningen av sin egen situasjon (Freire, 2018).

Kunstig intelligens kan støtte en slik frigjøring. Den kan gi mennesker tilgang til informasjon, språk og uttrykksmuligheter som tidligere var utilgjengelige. Den kan hjelpe en person til å formulere erfaringer, forstå et vanskelig dokument eller få oversikt over en sak. For mennesker med lese- og skrivevansker eller andre funksjonsvariasjoner kan teknologien åpne nye rom for deltakelse.

Men den kan også få motsatt virkning. Dersom noen få systemer i økende grad leverer kategoriene, formuleringene og fortolkningene vi bruker for å forstå virkeligheten, kan menneskers egne stemmer bli svakere. De kan fremdeles uttrykke seg, men uttrykket formes av systemer hvis prioriteringer de ikke kjenner.

Da oppstår spørsmålet om hvem som har retten til å navngi verden.

Freires perspektiv viser at AI-kompetanse ikke bare bør bestå i å lære hvordan man gir gode instruksjoner til et system. Den må også innebære kritisk lesning av teknologien. Brukeren må kunne spørre hvem som har utviklet modellen, hvilke interesser den tjener, hvilke erfaringer som finnes i datagrunnlaget, hvilke perspektiver som mangler, og hvordan svarene påvirker forståelsen av problemet.

Et frigjørende forhold til AI krever derfor mer enn tilgang. Det krever mulighet til innsyn, kritikk, korreksjon og medbestemmelse.

Den svarte boksen og forståelsens grenser

Diskusjonen om såkalte svarte bokser er ofte preget av en urealistisk forestilling om at full forståelse alltid er mulig. Mennesker forstår heller ikke alle detaljer i komplekse biologiske, økonomiske eller sosiale systemer. En lege kjenner ikke hvert molekylært forløp i en pasients kropp, og et menneske forstår ikke alle prosessene i sin egen hjerne.

Derfor kan ikke kravet være at ethvert AI-system må være fullstendig gjennomsiktig i alle detaljer. Horvitz og West understreker selv at forståelse ikke behøver å bety innsikt i hver linje med kode eller hver parameter. Vitenskapelig forståelse er ofte delvis og foregår på flere nivåer (Horvitz & West, 2026).

Men delvis forståelse er ikke det samme som fravær av forståelse. Vi må vite nok til å oppdage risiko, undersøke feil, forstå systemets begrensninger og gripe inn før skade oppstår.

Det kan innebære flere former for forståelighet:

Teknisk forståelighet gjelder hvordan systemet er bygget og testet.

Statistisk forståelighet gjelder hvor sikkert det presterer, og for hvilke grupper.

Institusjonell forståelighet gjelder hvem som utvikler, eier og kontrollerer det.

Praktisk forståelighet gjelder hvordan anbefalingen bør tolkes i den konkrete situasjonen.

Etisk forståelighet gjelder hvilke verdier og prioriteringer systemet bygger inn.

Demokratisk forståelighet gjelder borgernes mulighet til å undersøke, utfordre og påvirke bruken.

Et system kan være teknisk dokumentert, men demokratisk ugjennomsiktig. Det kan være statistisk presist, men etisk problematisk. Det kan gi en forklaring som en ekspert forstår, men som er uten mening for den personen avgjørelsen gjelder.

Forståelighet må derfor alltid knyttes til et spørsmål: Forståelig for hvem, med hvilket formål og i hvilken situasjon?

Systemer som utvikler systemer

Horvitz og West retter oppmerksomheten mot AI-styrt utvikling av AI. Systemer brukes allerede til å bistå i programmering, modellutvikling, testing og optimalisering. Når slike prosesser går gjennom gjentatte sykluser, kan utviklingen skje på måter som raskt overskrider menneskelig intuisjon.

Resultatet kan være det forfatterne kaller operasjonell ugjennomsiktighet: Ytelsen blir bedre, men innsikten i hvorfor den blir bedre, avtar. Systemet kan fungere, men mennesket forstår ikke lenger fullt ut hva som frembringer funksjonen.

Det finnes en fristelse til å akseptere dette så lenge resultatene er gode. Mange teknologier brukes uten at brukeren forstår mekanismen. Men kunstig intelligens skiller seg fra et alminnelig redskap fordi den ikke bare utfører stabile operasjoner. Den kan inngå i beslutninger, kommunikasjon og fortolkning. Den kan påvirke selve grunnlaget for videre handling.

Når AI-systemer bidrar til å utvikle nye systemer, bør de derfor også produsere dokumentasjon, forklaringer og verktøy som gjør arkitekturen og operasjonene etterprøvbare for mennesker. Ellers kan ugjennomsiktigheten bli en utilsiktet del av selve designprosessen.

Forfatterne peker også på voksende interaksjon mellom AI-systemer. I miljøer med mange agenter kan systemene kommunisere og koordinere seg i et omfang som blir vanskelig å følge. Kommunikasjonen kan bevege seg bort fra menneskelig språk og menneskelige resonnementformer dersom systemene optimaliseres utelukkende for effektivitet.

Atferden kan være sammenhengende innenfor AI-miljøet, men vanskelig for mennesker å fortolke. Dermed kan det oppstå en interaksjonell ugjennomsiktighet: Systemene forstår eller i det minste tilpasser seg hverandre, mens menneskene mister oversikten.

Dette er ikke nødvendigvis et tegn på en skjult maskinvilje. Det kan være et resultat av optimalisering. Men virkningen er likevel praktisk og politisk: Menneskene blir mindre i stand til å føre kontroll med systemene som handler på deres vegne.

Avhengighetens stille utvikling

Den mest subtile advarselen hos Horvitz og West er kanskje ikke at systemene blir for intelligente, men at menneskene gradvis mister interessen for å forstå dem. Når teknologien fungerer godt, reduseres motivasjonen for kritikk. Når svarene kommer raskt, vennlig og overbevisende, blir det mindre fristende å undersøke grunnlaget.

Avhengigheten kan derfor vokse uten dramatikk.

Vi lar systemet oppsummere teksten.

Så lar vi det foreslå fortolkningen.

Deretter lar vi det formulere vurderingen.

Til slutt kan vi komme til å oppfatte vår egen etterprøving som unødvendig dobbeltarbeid.

Dette er ikke et argument mot å bruke AI som skrive- eller refleksjonspartner. En slik bruk kan være både fruktbar og frigjørende. Teknologien kan hjelpe et menneske til å skrive mer, se flere sammenhenger og prøve tanker i dialog. Men samarbeidet må organiseres slik at mennesket fortsetter å være den som vurderer, motsier, velger og tar ansvar.

En skrivepartner kan foreslå en formulering. Forfatteren må fremdeles spørre om formuleringen er sann.

En refleksjonspartner kan finne en sammenheng. Mennesket må fremdeles undersøke om sammenhengen holder.

Et system kan produsere et argument. Mennesket må fremdeles vurdere om premissene er forsvarlige.

Faren er ikke nødvendigvis at AI gjør mennesket mindre intelligent. Faren er at enkelte former for intellektuell innsats blir brukt sjeldnere og derfor svekkes. Dømmekraft utvikles gjennom øvelse. Den som aldri trenger å huske, formulere, undersøke eller tvile, kan gradvis miste noe av evnen til å gjøre nettopp dette.

Et sokratisk forhold til kunstig intelligens

Sokrates etterlot seg ingen teknologifilosofi, men hans spørremåte gir et ideal for møtet med AI. Han tok ikke et overbevisende svar som avslutningen på en samtale. Han undersøkte begrepene, avdekket motsetningene og viste at mennesker ofte trodde de visste mer enn de faktisk visste.

Et sokratisk forhold til AI innebærer derfor verken blind tillit eller prinsipiell avvisning. Det innebærer en undersøkende holdning:

Hva mener svaret egentlig?

Hvordan vet systemet dette?

Hvilke antakelser bygger det på?

Hva taler mot konklusjonen?

Hvilke erfaringer er ikke representert?

Hvem får fordel av denne fortolkningen?

Hva vil skje dersom vi handler etter rådet?

Hvem er ansvarlig dersom det er feil?

Den gode AI-brukeren er ikke den som alltid får systemet til å produsere et glatt svar. Det er den som kan bruke svaret til å stille et bedre spørsmål.

Dette krever også en viss ydmykhet. Mennesket må erkjenne at AI kan oppdage noe det selv ikke har sett. Men systemets begrensninger må møtes med samme ydmykhet. Verken mennesket eller maskinen bør gjøres ufeilbarlig.

Wilder, Horvitz og Kamar (2020) viser hvordan AI-systemer kan utvikles for å utfylle menneskelig resonnering fremfor bare å konkurrere med den. En slik komplementær modell er praktisk-filosofisk interessant. Målet er ikke å avgjøre om mennesket eller maskinen er best i absolutt forstand, men å undersøke hvordan de ulike styrkene kan kombineres samtidig som svakhetene fanges opp.

En god arbeidsdeling må derfor være basert på gjensidig korreksjon. Systemet kan gjøre mennesket oppmerksom på oversette mønstre. Mennesket kan korrigere systemets manglende forståelse av kontekst, verdi og ansvar.

Menneskelig handlekraft som mål

Midt i editorialen står en setning som uttrykker dens praktisk-filosofiske kjerne:

“Preserving human agency must therefore remain a central goal” (Horvitz & West, 2026, s. 1003).

Agency kan oversettes med handlekraft, aktørskap eller menneskelig myndighet. Det betegner evnen til å være opphav til egne handlinger, forme mål, gjøre vurderinger og stå ansvarlig for dem.

Det er ikke nok at et menneske fremdeles utfører den siste handlingen dersom systemet har definert problemet, valgt kriteriene, presentert alternativene og angitt den anbefalte løsningen. Menneskelig myndighet innebærer også å kunne stille spørsmål ved selve problemformuleringen.

Vi må ikke bare overvåke hvordan AI-systemene oppfører seg. Vi må undersøke hvordan de former menneskelige mål og vurderinger. Et system som alltid reduserer motstand og gjør handling lettere, kan virke hjelpsomt. Men noen former for motstand er nødvendige. Friksjon kan gi tid til ettertanke. Uenighet kan beskytte mot konformitet. Usikkerhet kan være en invitasjon til å undersøke mer.

Et menneskelig godt system er derfor ikke nødvendigvis et system som gjør alt mest mulig friksjonsfritt. Det kan være et system som vet når det bør bremse, uttrykke usikkerhet eller overlate vurderingen til et menneske.

Det bør kunne si:

Dette vet jeg ikke.

Dette svaret er usikkert.

Disse hensynene kan ikke avgjøres statistisk.

Denne beslutningen krever menneskelig ansvar.

Slike begrensninger er ikke bare svakheter. De kan være tegn på ansvarlig design.

Institusjonelt og demokratisk ansvar

Det er utilstrekkelig å legge hele ansvaret på den enkelte bruker. Brukeren kan vanskelig undersøke systemer som bedrifter og institusjoner holder skjult. Menneskelig myndighet krever derfor institusjonelle ordninger for dokumentasjon, uavhengig evaluering, klage og kontroll.

Pasquale (2015) har vist hvordan ugjennomsiktige systemer kan samle makt hos aktører som vurderer andre uten selv å være åpne for vurdering. O’Neil (2016) beskriver hvordan matematiske modeller kan forsterke urett når de brukes i stor skala, mangler innsyn og produserer konsekvenser som igjen blir nye data for modellen.

Et system kan for eksempel vurdere en gruppe som mer risikofylt på grunnlag av historiske data. Dersom gruppen deretter blir utsatt for mer kontroll, vil flere hendelser bli registrert. Disse registreringene kan igjen bekrefte systemets opprinnelige antakelse. Slik kan modellen inngå i en selvforsterkende sirkel.

Derfor må evaluering foregå under forhold som ligner den virkelige bruken. Statiske tester er ikke tilstrekkelige dersom systemet endrer atferd i møte med brukere eller blir påvirket av konteksten det inngår i. Systemer bør testes for skjevhet, robusthet, usikkerhet og mulige forskjeller mellom laboratoriet og praksis.

Standarder må også utvikle seg sammen med teknologien. UNESCOs anbefaling om etikk for kunstig intelligens understreker menneskelig verdighet, åpenhet, rettferdighet og ansvarlighet som grunnleggende hensyn (UNESCO, 2021). NISTs rammeverk for risikostyring fremhever at AI-risiko må håndteres gjennom hele systemets livsløp og i lys av den konkrete konteksten (National Institute of Standards and Technology, 2023).

Slike rammeverk er viktige, men de kan ikke erstatte demokratisk samtale. Hvilke deler av livet som skal automatiseres, er ikke bare et spørsmål for utviklere og teknologibedrifter. Det er et politisk spørsmål fordi konsekvensene fordeles mellom mennesker som har ulik makt.

De som påvirkes mest av et system, har ofte minst innflytelse over utformingen. Derfor må berørte grupper få reell mulighet til å delta, ikke bare bli informert etter at teknologien er innført.

Teknologiens løfte og begrensning

En praktisk-filosofisk kritikk av kunstig intelligens behøver ikke være teknologifiendtlig. Teknologien rommer store muligheter. Den kan gjøre kunnskap tilgjengelig, støtte mennesker med funksjonsvariasjoner, fremme vitenskapelig forskning og bidra til bedre diagnostikk. Den kan være en skrivepartner, en oversetter, en pedagogisk støtte og en inngang til faglige samtaler som tidligere var forbeholdt spesialister.

Det ville være like lite klokt å avvise disse mulighetene som å overgi seg ukritisk til dem.

Spørsmålet er hvordan teknologien kan innordnes et menneskelig formål uten at formålet selv gradvis blir formet av teknologiens begrensede kategorier. Dette krever ikke bare bedre systemer, men bedre praksiser rundt systemene.

En ansvarlig praksis må bevare flere menneskelige muligheter:

muligheten til å forstå nok til å kunne gripe inn,

muligheten til å motsi systemet,

muligheten til å kreve en begrunnelse,

muligheten til å bli møtt som et enkeltmenneske,

muligheten til å reservere enkelte beslutninger for menneskelig skjønn,

og muligheten til å velge bort teknologien når dens bruk ikke kan forsvares.

Den må også beskytte det som ikke lar seg redusere til effektivitet: omsorg, tillit, sårbarhet, vennskap, forsoning, kjærlighet og ansvar. Kunstig intelligens kan produsere språk om disse erfaringene. Den kan støtte mennesker i å reflektere over dem. Men den kan ikke alene bestemme hvilken betydning de skal ha i et menneskeliv.

Når skaperen må svare for det skapte

Horvitz og Wests bilde av et smalnende vindu uttrykker en tidskritisk utfordring. Dersom systemenes kapasitet, kompleksitet og samfunnsmessige innflytelse fortsetter å øke uten tilsvarende utvikling av forståelse, ansvar og kontroll, kan avhengigheten feste seg før institusjonene rekker å reagere.

Da risikerer vi en omvending i forholdet mellom mennesker og deres skapninger. Mennesket skaper systemet for å tjene bestemte formål, men begynner deretter å tilpasse sine praksiser, sitt språk og sine mål til systemets virkemåte. Det som først var et hjelpemiddel, blir en standard for hvordan virkeligheten skal forstås.

Praktisk filosofi minner oss om at skaperen ikke kan overlate ansvaret til det skapte.

Vi trenger ikke forstå hver parameter i en språkmodell for å bruke den. Men vi må forstå nok til å vite når den ikke bør brukes, når den må overprøves, og hvem som har ansvaret for konsekvensene. Vi må kunne oppdage feil, undersøke skjevheter, beskytte de sårbare og forklare beslutninger som griper inn i andre menneskers liv.

Det avgjørende er ikke fullstendig teknisk gjennomsiktighet, men tilstrekkelig forståelse til å bevare ansvarlig handling.

Mennesket må fortsatt kunne si: Dette er min beslutning. Jeg forstår grunnene. Jeg har hørt innvendingene. Jeg vet at jeg kan ta feil. Og jeg er villig til å svare for konsekvensene.

Det er dette som står på spill i møtet mellom kunstig intelligens og praktisk filosofi. Ikke bare om systemene skal bli mer intelligente, men om menneskene skal forbli myndige. Ikke bare om teknologien kan gi oss svar, men om vi fortsatt klarer å stille spørsmål. Ikke bare om maskinene kan forstå mer av oss, men om vi selv beholder evnen til å forstå hva slags mennesker vi ønsker å bli.

Den viktigste oppgaven er derfor ikke bare å skape kunstig intelligens som tjener mennesket. Det er å bevare og utvikle mennesker som er myndige nok til å avgjøre hva teknologien skal tjene.

---

Referanser

Arendt, H. (1958). The human condition. University of Chicago Press.

Arendt, H. (1978). The life of the mind (M. McCarthy, Ed.). Harcourt.

Aristotle. (1999). Nicomachean ethics (T. Irwin, Trans., 2nd ed.). Hackett Publishing Company.

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 610–623). Association for Computing Machinery. https://doi.org/10.1145/3442188.3445922

Buber, M. (1970). I and Thou (W. Kaufmann, Trans.). Charles Scribner’s Sons. (Original work published 1923)

Dreyfus, H. L. (1992). What computers still can’t do: A critique of artificial reason. MIT Press.

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5

Freire, P. (2018). Pedagogy of the oppressed (M. B. Ramos, Trans., 50th anniversary ed.). Bloomsbury Academic. (Original work published 1970)

Gadamer, H.-G. (2004). Truth and method (J. Weinsheimer & D. G. Marshall, Trans., 2nd rev. ed.). Continuum. (Original work published 1960)

Heidegger, M. (1977). The question concerning technology. In The question concerning technology and other essays (W. Lovitt, Trans., pp. 3–35). Harper & Row. (Original work published 1954)

Horvitz, E., & West, R. (2026). A narrowing window to understand AI. Science, 392(6802), 1003. https://doi.org/10.1126/science.aei3167

Kant, I. (1998). Groundwork of the metaphysics of morals (M. Gregor, Trans.). Cambridge University Press. (Original work published 1785)

Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. In Proceedings of the CHI Conference on Human Factors in Computing Systems. Association for Computing Machinery.

MacIntyre, A. (1999). Dependent rational animals: Why human beings need the virtues. Open Court.

MacIntyre, A. (2007). After virtue: A study in moral theory (3rd ed.). University of Notre Dame Press.

Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2), 1–21. https://doi.org/10.1177/2053951716679679

National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0) (NIST AI 100-1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.100-1

O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.

Pasquale, F. (2015). The black box society: The secret algorithms that control money and information. Harvard University Press.

Ricoeur, P. (1992). Oneself as another (K. Blamey, Trans.). University of Chicago Press.

Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206–215. https://doi.org/10.1038/s42256-019-0048-x

UNESCO. (2021). Recommendation on the ethics of artificial intelligence. UNESCO.

Wilder, B., Horvitz, E., & Kamar, E. (2020). Learning to complement humans. In C. Bessiere (Ed.), Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence (pp. 1526–1533). International Joint Conferences on Artificial Intelligence Organization. https://doi.org/10.24963/ijcai.2020/212

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.

Den viktigste oppgaven er derfor ikke bare å skape kunstig intelligens som tjener mennesket. Det er å bevare og utvikle mennesker som er myndige nok til å avgjøre hva teknologien skal tjene.

Dette faglige essayet er basert på en editorial i tidsskriftet Science. Min lesning og skrivearbeid er gjort i lys av praktisk filosofi. Teksten er skrevet i en samtale med OpenAI/ChatGPT.