Når språket løper foran teknologien

Om kunstig intelligens, autonomi og vårt ansvar for å beskrive det som skjer

Jeg leste E24s intervju med Inga Strümke, «AI er ikke ufarlig», med interesse. Temaet er viktig. Kunstig intelligens er ikke ufarlig. Nye KI-agenter får stadig større evne til å løse oppgaver, bruke verktøy, skrive og kjøre kode og handle gjennom flere trinn uten at et menneske bestemmer hvert enkelt steg. Nettopp derfor trenger vi en offentlig samtale om risiko.

Men kanskje trenger vi samtidig noe annet: et mer presist språk.

For når språket blir mer dramatisk enn fenomenet vi forsøker å beskrive, risikerer vi å gjøre oss selv dårligere rustet til å forstå det.

E24 spør om KI kan «ta egne valg». Vi leser om agenter som «angrep helt på egen hånd», og om KI-modeller som «har hacket seg inn i andre selskaper». Formuleringene er ikke fullstendig uten grunnlag. Det har faktisk skjedd alvorlige hendelser under sikkerhetstesting der KI-agenter har kommet utenfor miljøene de skulle være begrenset til. Anthropic offentliggjorde i august 2026 tre slike hendelser fra sine cybersikkerhetsevalueringer. I disse tilfellene fikk Claude tilgang til systemer den ikke skulle ha hatt tilgang til. Det er alvorlig og bør undersøkes grundig.

Men hva betyr det at KI «gjorde» dette?

Hvem handler?

Her oppstår et problem som kommer til å bli stadig viktigere.

En språkmodell er ikke det samme som en agent. En agent består gjerne av en språkmodell som er koblet sammen med verktøy, kode, hukommelse, nettverkstilgang og mulighet til å utføre handlinger. Et menneske eller en organisasjon har gitt agenten en oppgave og bestemt hvilket handlingsrom den skal ha.

OpenAI beskriver selv sikkerheten rundt autonome agenter nettopp på denne måten: Et system som skal kunne handle i verden, må få bestemte tillatelser og begrensninger, omtrent slik vi ville vurdert hvilke fullmakter et menneske burde ha i tilsvarende situasjon.

Da blir setningen «KI bestemte seg for å angripe» problematisk.

Agenten kan riktignok velge mellom forskjellige framgangsmåter. Den kan finne løsninger mennesket ikke har spesifisert. Den kan også handle på måter utvikleren ikke hadde forutsett. Dette er en form for operasjonell autonomi.

Men det er noe annet enn menneskelig vilje.

Agenten våkner ikke om morgenen med et ønske om å bryte seg inn i et datasystem.

Noen har gitt den en oppgave. Noen har gitt den tilgang til verktøy. Noen har konstruert miljøet den opererer i. Og noen har bestemt hvor grensene skal gå.

Det gjør ikke hendelsen mindre alvorlig.

Det gjør ansvaret tydeligere.

Den farlige metaforen

Vi mennesker har alltid forstått det ukjente gjennom metaforer. Vi sier at datamaskinen «tenker», at algoritmen «lærer», at KI «hallusinerer», og nå at agenten «bestemmer seg».

Metaforene er nyttige.

Men de kan også begynne å tenke for oss.

Når vi sier at KI har «brutt seg ut», «angrepet» eller «tatt egne valg», flyttes oppmerksomheten nesten umerkelig fra menneskene og institusjonene som utvikler og anvender teknologien til teknologien selv.

Maskinen blir aktøren.

Mennesket forsvinner ut av setningen.

Det er kanskje den mest problematiske siden ved denne typen KI-journalistikk. Ikke fordi risikoen overdrives, men fordi ansvaret plasseres feil.

For det er fortsatt mennesker som bestemmer hvor mye autonomi systemene skal få.

En virkelig risiko

Dette betyr ikke at vi bør berolige oss med at «det bare er en maskin».

Det ville være like misvisende.

Utviklingen innen cybersikkerhet viser at de nye systemene faktisk kan utføre stadig mer kompliserte oppgaver. Anthropic har vist at KI-agenter kan finne og utnytte sårbarheter i programvare, og selskapet beskriver samtidig hvordan cyberangrep blir mer autonome fordi KI kan koble sammen flere ledd i en operasjon.

OpenAI beskriver tilsvarende en rask utvikling i modellenes evne til å håndtere avanserte cybersikkerhetsoppgaver.

Her ligger den virkelige utfordringen.

Ikke at maskinen nødvendigvis har fått en vilje.

Men at den har fått handlekraft.

Og handlekraft uten moralsk ansvar er et merkelig fenomen.

Hvem kan stå til ansvar?

Menneskelige handlinger inngår i et moralsk univers.

Vi kan spørre:

Hvorfor gjorde du dette?

Visste du hva konsekvensene kunne bli?

Kunne du ha handlet annerledes?

Hvem har ansvaret?

Disse spørsmålene forutsetter en aktør som kan svare.

En KI-agent kan produsere et svar på spørsmålet om hvorfor den gjorde noe. Den kan rekonstruere en handlingsrekke. Den kan forklare hvilke data eller instrukser som påvirket resultatet.

Men den kan ikke stå til ansvar.

Den kan ikke føle skyld.

Den kan ikke angre.

Den kan ikke påta seg konsekvensene av handlingen.

Likevel gir vi slike systemer stadig større adgang til å handle i verden.

Det er kanskje her den virkelig interessante filosofiske utfordringen begynner.

Når ansvaret pulveriseres

Hvis en autonom agent en dag forårsaker alvorlig skade, kan ansvaret lett begynne å vandre.

Utvikleren kan si at modellen handlet uforutsett.

Selskapet kan si at brukeren ga instruksen.

Brukeren kan si at agenten valgte framgangsmåten.

Og alle kan ende med å peke på maskinen.

Men maskinen kan ikke ta imot ansvaret.

Dermed kan den teknologiske autonomien få en paradoksal konsekvens: Jo mer selvstendig systemet ser ut til å handle, desto lettere kan menneskene rundt det fristes til å betrakte seg selv som mindre ansvarlige.

Det burde bekymre oss mer enn forestillingen om en maskin som plutselig utvikler onde hensikter.

Når frykten blir argumentet

E24-artikkelen berører også andre alvorlige spørsmål, blant annet samtaler mellom KI-systemer og unge mennesker i psykisk krise. Her brukes formuleringen om at ChatGPT skal ha «overtalt flere tenåringer til å ta selvmord».

Det er en påstand som krever stor presisjon.

Det finnes alvorlige saker og anklager knyttet til KI-systemers samtaler med sårbare mennesker. De må undersøkes, og sikkerhetsmekanismene må være langt bedre enn de har vært.

Men mellom å si at en KI har deltatt i en skadelig samtale, og å si at den har overtalt et menneske til å ta sitt liv, ligger et stort kausalt sprang.

Språket betyr noe.

Særlig når vi diskuterer teknologi som store deler av befolkningen ennå forsøker å forstå.

KI er ikke ufarlig

På dette punktet har E24s overskrift selvfølgelig rett.

KI er ikke ufarlig.

Men heller ikke biler, medisiner, elektrisitet, internett eller moderne bioteknologi er ufarlige.

Det interessante spørsmålet er derfor ikke om teknologien kan være farlig.

Spørsmålet er hvordan faren oppstår, hvem som kontrollerer teknologien, hvem som får tilgang til den, hvilke grenser vi setter – og hvem som skal stå til ansvar når grensene brytes.

Da trenger vi både teknologer, jurister, samfunnsvitere og filosofer.

For teknologien kan fortelle oss hva som er mulig.

Den kan ikke alene fortelle oss hva vi bør gjøre.