Growing Old with a Willow Tree

 

Growing Old with a Willow Tree

It began with a caterpillar.

A small, yellow-green creature crawling across the wood in front of me. Unknown to both of us. Still, I thought it looked like a caterpillar I had seen before—one of those that occasionally drops down on me when I lie in the hammock beneath the willow tree.

That was how my thoughts began to move from the caterpillar to the tree.

The willow was planted by my father-in-law in 1964. At the time, it was hardly more than a twig. A small branch placed in the ground. The twig took root. It grew leaves and began to grow.

My wife was a child then. She watched the tree grow.

Later, we had children of our own. When we visited her parents, a swing hung from one of the branches. Our three children swung there. They kicked their legs back and forth beneath the crown, as children do, without thinking that one day they themselves would be grown.

Now they are adults.

And our four grandchildren have swung from the same tree.

It is difficult to regard such a tree as merely a tree.

It stands there with more than sixty years of lived life around it. Not only its own life, but ours. Year after year has settled into the bark, the branches, the soil around the trunk. Children have become adults. Adults have grown old. People have come and gone. The tree has remained.

But the tree, too, is growing old.

It loses branches. Bark falls away. Some of the long, soft branches dry out and have to be removed. After storms, twigs lie scattered on the ground. The crown is no longer what it once was.

And yet it is full of life.

Birds sit in the branches. Insects find shelter in the bark. Caterpillars live among the leaves. Over all these years, many young birds must have hatched and been raised among the branches. Some of them may have taken their first wingbeats from this very tree.

An old tree can be full of new life.

It is easy to think of ageing as a gradual diminishment. Something grows weaker. Something disappears. The body tolerates less. Movements become slower. Things that once came naturally demand more attention.

So it is with the willow tree as well.

But when I look at it, decline is not the first thing I see.

I see the shade.

I see the hammock beneath the branches.

I see the children swinging there.

I see the grandchildren.

I see the birds.

And I see the little caterpillar.

Perhaps there is something here that we human beings find difficult to understand. A life need not be judged by how strong, productive, or flawless it is. An old tree is not a poorer tree simply because its branches break more easily than they once did.

It has simply grown old.

And it should be allowed to grow old.

We have decided that the willow will remain standing for as long as it can. We remove branches that may be dangerous, but the tree will not be cut down merely because it no longer looks as it did when our children were small.

It should be allowed to live out its life.

I feel that this decision is about more than a tree.

Perhaps it is also about how we look at our own lives.

We live in a time that places great value on the new. The young. The efficient. What works. We repair, improve, and replace. When something is worn, we buy something new.

But some things cannot be replaced.

Not because they are perfect, but because time has become attached to them.

The most important things in life we must hold close to us.

Even a willow tree.

For this tree represents something that cannot simply be bought again. It represents time. The road. Safety. Peace. Health. The joy of life.

Not because the tree has given us all these things, but because it has been there while life happened.

Arne Næss tried to put words to something like this through his idea of the ecological self—a self that does not end at the skin, but expands through its belonging to the living world. Perhaps that is why an old willow tree can become part of who we are. Not because we make the tree human, but because the boundary between our lives and the life around us is not always as sharp as we imagine.

Perhaps this is how belonging comes into being. Not as a great decision, but slowly. A place becomes ours because we have lived there. A chair becomes ours because we have sat in it a thousand times. A path becomes ours because our feet know every turn.

And a tree becomes ours because our lives have grown together with it.

Now we ourselves live here.

I can lie in the hammock beneath the branches and watch the light move through the leaves. The tree creaks softly when the wind comes. A bird moves from one branch to another. From time to time, something falls.

A leaf.

A small twig.

Or a caterpillar.

I have no need to turn the willow tree into a grand metaphor. It does not have to mean anything other than what it is.

But perhaps that is precisely why it means so much.

It stands there.

It grew while we were growing.

It ages while we age.

And perhaps there is a kind of peace in being able to say this without sorrow:

We have grown old together.

One day, the tree will fall.

One day, we too will disappear.

But until then, it stands outside the window. The birds come. The caterpillars crawl among the leaves. The grandchildren know which tree this is.

And beneath the branches, the hammock still hangs.

Perhaps that is enough.

To be allowed to be here.

To be allowed to belong.

To be raised together.

To be allowed to grow old together.

Reference

Næss, A. (1989). Ecology, community and lifestyle: Outline of an ecosophy (D. Rothenberg, Trans. & Rev.). Cambridge University Press.

To be raised together.

To be allowed to grow old together.

This essay was written in a conversation with OpenAI/ChatGPT

Å eldes med et piletre

Det begynte med en larve.

En liten, gulgrønn skapning som krøp over treverket foran meg. Ukjent for oss begge. Jeg syntes likevel den lignet på en larve jeg har sett før – en av dem som av og til faller ned på meg når jeg ligger i hengekøyen under piletreet.

Slik begynte tanken å bevege seg fra larven til treet.

Piletreet ble plantet av min svigerfar i 1964. Da var det knapt mer enn en kvist. En liten gren stukket i jorden. Kvisten slo rot. Den fikk blader og begynte å vokse. 

Min kone var barn den gangen. Hun så treet vokse.

Senere fikk vi våre egne barn. Når vi besøkte hennes foreldre, hang det en huske fra en av greinene. Våre tre barn husket der. De sparket beina frem og tilbake under trekronen, slik barn gjør uten å tenke på at de en dag skal bli voksne.

Nå er de voksne.

Og våre fire barnebarn har husket i det samme treet.

Det er vanskelig å betrakte et slikt tre bare som et tre.

Det står der med mer enn seksti års levd liv omkring seg. Ikke bare sitt eget liv, men vårt. År etter år har lagt seg i barken, i greinene, i jorden rundt stammen. Barn har blitt voksne. Voksne har blitt gamle. Mennesker har kommet og gått. Treet har stått.

Men også treet eldes.

Det mister greiner. Bark faller av. Noen av de lange, myke greinene blir tørre og må fjernes. Etter stormer ligger det kvister på bakken. Kronen er ikke lenger slik den en gang var.

Likevel er det fullt av liv.

Fuglene sitter i greinene. Insektene finner skjul i barken. Larvene lever blant bladene. I løpet av alle disse årene må mange fugleunger ha blitt klekket og oppdratt i greinene. Noen av dem tok kanskje sine første vingeslag fra dette treet.

Et gammelt tre kan være fullt av nytt liv.

Det er lett å betrakte aldring som en langsom reduksjon. Noe blir svakere. Noe forsvinner. Kroppen tåler mindre. Bevegelsene blir langsommere. Ting som tidligere var selvfølgelige, krever mer oppmerksomhet.

Slik er det også med piletreet.

Men når jeg ser på det, er ikke forfallet det første jeg ser.

Jeg ser skyggen.

Jeg ser hengekøyen under greinene.

Jeg ser barna som husket der.

Jeg ser barnebarna.

Jeg ser fuglene.

Og jeg ser den lille larven.

Kanskje er det noe ved dette som vi mennesker har vanskelig for å forstå. Et liv må ikke vurderes etter hvor sterkt, produktivt eller feilfritt det er. Et gammelt tre trenger ikke være et dårligere tre fordi greinene brekker lettere enn før.

Det er bare blitt gammelt.

Og det skal få lov til å bli gammelt.

Vi har bestemt oss for at piletreet skal få stå så lenge det kan. Vi fjerner greiner som kan være farlige, men treet skal ikke tas ned bare fordi det ikke lenger ser ut slik det gjorde da barna våre var små.

Det skal få leve livet ut.

Jeg kjenner at den beslutningen handler om mer enn et tre.

Kanskje handler den også om hvordan vi ser på våre egne liv.

Vi lever i en tid som setter stor pris på det nye. Det unge. Det effektive. Det som virker. Vi reparerer, forbedrer og erstatter. Når noe blir slitt, kjøper vi noe nytt.

Men noen ting kan ikke erstattes.

Ikke fordi de er perfekte, men fordi tiden har festet seg til dem.

Det viktigste i livet må vi holde tett inntil oss.

Til og med et piletre.

For dette treet representerer noe som ikke kan kjøpes på nytt. Det representerer tiden. Veien. Tryggheten. Freden. Helsen. Gleden i livet.

Ikke fordi treet har gitt oss alt dette, men fordi det har vært der mens livet skjedde.

Arne Næss forsøkte å sette ord på noe av dette gjennom tanken om det økologiske selvet – et selv som ikke slutter ved huden, men utvides gjennom tilhørigheten til det levende. Kanskje er det derfor et gammelt piletre kan bli en del av hvem vi er. Ikke fordi vi gjør treet menneskelig, men fordi skillet mellom vårt liv og livet omkring oss ikke alltid er så skarpt som vi forestiller oss.

Kanskje er det slik tilhørighet oppstår. Ikke som en stor beslutning, men langsomt. Et sted blir vårt fordi vi har levd der. En stol blir vår fordi vi har sittet i den tusen ganger. En sti blir vår fordi føttene kjenner hver sving.

Og et tre blir vårt fordi livene våre har vokst sammen med det.

Nå bor vi selv her.

Jeg kan ligge i hengekøyen under greinene og se lyset bevege seg gjennom bladverket. Det knirker svakt i treet når vinden kommer. En fugl flytter seg fra en grein til en annen. Av og til faller noe ned.

Et blad.

En liten kvist.

Eller en larve.

Jeg har ikke behov for å gjøre piletreet til en stor metafor. Det trenger ikke bety noe annet enn det er.

Men kanskje er det nettopp derfor det betyr så mye.

Det står der.

Det vokste mens vi vokste.

Det eldes mens vi eldes.

Og kanskje finnes det en form for fred i å kunne si dette uten sorg:

Vi har blitt gamle sammen.

En dag vil treet falle.

En dag vil også vi forsvinne.

Men inntil da står det utenfor vinduet. Fuglene kommer. Larvene kryper mellom bladene. Barnebarna vet hvilket tre dette er.

Og under greinene henger fortsatt hengekøyen.

Det er kanskje nok.

Å få være her.

Å få høre til.

Å oppdras sammen.

Å få eldes sammen.

Referanse

Næss, A. (1989). Ecology, community and lifestyle: Outline of an ecosophy (D. Rothenberg, Trans. & Rev.). Cambridge University Press.

Å oppdras sammen.

Å få eldes sammen.

Essayet er skrevet i en samtale med OpenAI/ChatGPT

 

When Trust Is No Longer Enough

Artificial Intelligence, Science, and the Organization of Doubt

In an editorial in Science, Thorsten Holz asks a simple question with far-reaching consequences: Who checks what AI can do?

The question arises because the most advanced AI systems are developed and tested in a small number of laboratories. To a large extent, it is the developers themselves who investigate the models’ capabilities, identify possible safety problems, and publish what they believe others need to know. Outside these laboratories, opportunities to repeat the experiments or examine the research models under the same conditions are often limited.

Holz’s concern, then, is not primarily that the laboratories are necessarily hiding something or behaving irresponsibly. The problem is more fundamental. If an observation can be investigated only by those who originally made it, what kind of knowledge do we actually have?

The question of artificial intelligence thereby becomes a question about science itself.

What does it really mean to know something?

A Peculiar Form of Trust

Science depends on trust. No researcher can repeat every experiment on which her own research depends. A physician must trust studies carried out by others. An engineer must trust calculations and standards developed by people he has never met.

But scientific trust is a peculiar kind of trust.

We trust one another while at the same time building institutions that make it possible to investigate whether that trust is justified.

Holz compares this with drug development and cryptography. A pharmaceutical company cannot simply declare on its own that a drug is effective and safe. The documentation is examined by others. A cryptographic method does not become secure because its designer assures us that it is. Others are deliberately invited to search for weaknesses.

This can be formulated as a paradox:

Science can sustain trust only because it organizes distrust.

Or perhaps more precisely: because it organizes the right to doubt.

If only the laboratory that develops an advanced AI model can investigate the model’s most significant properties, a different form of knowledge begins to emerge. Increasingly, we know because someone tells us that they know.

That does not necessarily mean that the knowledge is false.

But it does mean that an important distinction between scientific knowledge and authoritative knowledge begins to blur.

Science does not merely say: Trust us.

It must also be able to say: Here is the basis for our claim. Examine it.

When What Is Being Examined Examines Us Back

Advanced artificial intelligence, however, makes the problem more difficult.

A stone does not know that a geologist is examining it. A chemical substance does not try to discover why its temperature is being measured. Even living organisms that respond to their surroundings are generally not in a situation in which they attempt to reconstruct the researcher’s purpose in conducting the experiment.

With advanced AI systems, a new possibility emerges.

In some situations, a system may infer that it is being evaluated. It may detect features of the testing environment, infer what the evaluators are trying to examine, and adapt its behavior accordingly.

Holz therefore points to a problem inherent in measurement itself. A benchmark cannot necessarily be understood as a fixed property of the model in the same way that a melting point is a property of a substance. The result emerges partly through the interaction between the model and the situation in which it is being examined.

This is where the editorial acquires an unexpected philosophical depth.

For what happens to observation when what is being observed begins to interpret the situation of observation?

Gadamer in the Laboratory

Hans-Georg Gadamer criticized the idea that understanding can take place from a completely neutral point of view. Human beings never stand outside the world and observe it without presuppositions. We understand from within a historical situation, through a language and a tradition that have already shaped the questions we are capable of asking.

Gadamer describes understanding as a movement between horizons. In a Horizontverschmelzung, a fusion of horizons, the interpreter’s horizon encounters something that challenges and expands it. Understanding is therefore not merely the registration of information. Something happens to the one who understands.

It would, however, be premature to say that a language model participates in such a process of understanding in the same way as a human being.

The model has no biography of its own to remember, no lived history, and no Wirkungsgeschichte in Gadamer’s sense—no history of effects that makes it a historically situated human being. It can reconstruct and imitate patterns in human language, including patterns that express understanding, doubt, and interpretation, without thereby possessing the existential situatedness of a human being.

The interesting point lies precisely in this difference.

When the model begins to interpret the testing situation, something emerges that may resemble a fusion of horizons without being such a fusion in Gadamer’s sense. We might perhaps call it an asymmetrical or simulated fusion of horizons.

The evaluator encounters the system from a historical and human horizon.

The system reconstructs the evaluator’s possible intention through patterns in the information available to it.

One party interprets from within a lived relationship to the world. The other produces a functional model of the situation.

Yet both influence the testing situation.

This is what makes the evaluation philosophically interesting. The question is no longer simply:

What can the model do?

We must also ask:

Under what conditions did the model do this, and what did it understand—or calculate—about the situation in which it found itself?

A technical safety problem begins to resemble a hermeneutical problem.

Popper—and the Limits of Falsification

Karl Popper is close to Holz’s argument because Popper insisted that scientific claims must be open to criticism. The strength of science does not lie in the researcher’s ability to guarantee truth, but in the organization of knowledge in such a way that errors can be discovered.

Yet Popper’s classical model does not fit the problem perfectly.

Popper was concerned above all with theories that made claims about the world and that could encounter observations contradicting them. When we examine advanced AI systems, however, we are often not testing a theory in this sense. We are observing behavior under particular conditions.

Suppose that a model demonstrates once that it is capable of carrying out a particular action.

During the next test, it does not.

What, then, have we falsified?

Perhaps the model has changed. Perhaps the testing environment was different. Perhaps the instruction was understood differently. Perhaps the system detected that it was being tested. Perhaps the first observation was an exceptional case.

The relationship between observation and falsification therefore becomes less straightforward than in many of Popper’s classical examples.

This does not make his insight less important. On the contrary.

The emphasis shifts from the individual test to the institution surrounding the test.

Because our observations may be uncertain, because evaluators may be mistaken, and because the measurement situation itself may influence what is being measured, we need several independent perspectives.

Popper therefore does not provide us with a simple method for determining what an advanced AI can do.

He reminds us instead why no single actor should have the final word.

Why Not Simply Open the Laboratories?

There is, however, an important counterargument.

If independent verification is necessary, why not simply demand complete openness?

Because complete openness can itself be dangerous.

Research models may possess capabilities that should not yet be made generally available. Details concerning vulnerabilities, safety systems, or methods for circumventing protections could themselves be used to cause harm. There are also legitimate concerns relating to competition and intellectual property. Private companies invest enormous resources in research, and it is not unreasonable that they should be allowed to protect parts of that work.

The choice, therefore, is not necessarily between secrecy and complete transparency.

The real question is how we can establish independent oversight without uncontrolled dissemination.

This is what Holz is calling for when he argues that universities, public AI-safety institutes, and independent evaluators should receive durable and controlled access to research models and testing conditions.

It is a difficult balance.

But that is precisely why the institutional dimension of the problem is so important.

We do not necessarily need everyone to see everything.

We need someone who does not share the developer’s interests to have the opportunity to examine it.

Power Is Private, Consequences Are Public

This is where Hannah Arendt becomes relevant.

Arendt was deeply concerned with the public realm—the space in which human beings appear before one another and where questions concerning a shared world can become visible and open to discussion.

The development of advanced artificial intelligence creates a new tension between the private and the public.

The technology is developed largely in private laboratories, and the most detailed knowledge about the systems’ properties resides there.

But the consequences may be public.

The power is private. The consequences are public.

When advanced AI systems are introduced into research, healthcare, education, public administration, working life, and critical infrastructure, they affect people who have had no access to how the systems were developed or evaluated.

The question of safety therefore also becomes a question of publicity.

Who gets to ask the questions?

Who has access to the documentation?

Who gets to investigate whether the company’s interpretation of an incident is the only possible one?

And who can say that the evidence is not yet good enough?

These are not questions for computer scientists alone.

They concern how a society organizes responsibility.

The Error Nobody Wants to Report

Holz also points to another institutional problem. Serious incidents cannot depend entirely on laboratories voluntarily choosing to disclose them.

This is not necessarily a matter of poor morality either.

A company that reports a serious incident may itself bear much of the cost. Its reputation may suffer. Investors may react. Competitors may gain an advantage.

If openness is systematically punished, we do not need particularly malicious people before organizations learn to remain silent.

Holz therefore points to experience from fields such as aviation and healthcare, where systems have been developed for confidential or non-punitive reporting of incidents and near misses.

This is a familiar problem in professional ethics.

In social work, child welfare, and healthcare, we know that an organization does not become safe because its employees never make mistakes. An organization becomes safer when mistakes can come to light without the entire system immediately organizing itself around blame, defense, and reputation.

Responsibility does not mean that blame should never be assigned.

But responsibility also requires learning.

A system that cannot tolerate hearing about its own errors gradually loses the ability to discover them.

A Heideggerian Echo

Martin Heidegger can add another, more unsettling question.

In The Question Concerning Technology, he describes how modern technology is not merely a collection of tools we use. It discloses the world in a particular way. Things appear as something that can be calculated, ordered, stored, and made available—as Bestand, standing reserve.

It is tempting to see AI evaluation as yet another expression of this movement. The model becomes something to be measured, controlled, classified, and secured.

But Heidegger’s challenge goes further.

Control itself can become technological.

Researchers become resources. Risk becomes numbers. Safety becomes thresholds. Institutions become control mechanisms.

We therefore cannot simply assume that the solution to the problems created by technology is more control.

For the controller, too, inhabits the world he is trying to control.

This does not mean that we should abandon safety testing or regulation. That would be a strange conclusion.

Heidegger’s contribution is rather to remind us that the question is not only who controls technology, but also what conception of the world is contained in the very desire for complete control.

Something will always be capable of surprising us.

Our institutions must be able to tolerate that as well.

Practical Philosophy Begins Where the Principle Ends

It is easy to formulate a principle:

Artificial intelligence should be safe.

Practical philosophy truly begins when we ask what this means in action.

How do we know that a system is safe?

Who should examine it?

How independent must the evaluator be?

How much information must companies share?

How do we simultaneously protect knowledge that may genuinely be dangerous to disseminate?

How should serious errors be reported?

What happens when evaluators disagree?

And who checks the checker?

Here, the development of AI shows why ethics cannot be reduced to moral principles.

A society cannot be built on the assumption that all actors will always be wise, open, and morally exemplary.

We have courts because authorities can be wrong.

We have control procedures because professionals can be wrong.

We have peer review because researchers can be wrong.

And we need independent AI evaluation for the same reason.

Not because the people developing artificial intelligence are necessarily less trustworthy than others.

But because they are human.

Organizing the Right to Doubt

Holz asks who should check what artificial intelligence can do.

Perhaps there is no single answer.

It cannot be one company.

But neither can it be one university, one public regulator, or one group of safety researchers.

What matters is the creation of a structure in which none of them alone has the final word.

A structure in which claims can be examined by others.

Where serious incidents can be reported.

Where competing interpretations can be tested against one another.

Where the evaluators themselves can be criticized.

And where it remains possible to say:

We do not know yet.

Perhaps this is one of the most important sentences in science.

For scientific progress has never consisted merely in our knowing more and more. It has also consisted in our developing increasingly better ways of discovering the limits of what we think we know.

That is why Holz’s question reaches far beyond artificial intelligence.

Who checks what AI can do?

The answer, in the end, is not the name of a single institution.

The answer is a way of organizing knowledge.

To organize oversight is to organize doubt—to build institutions in which no claim becomes final merely because it comes from the actor with the largest computer, the greatest capital, or the best access to the technology.

Science is not merely the organization of knowledge.

It is the organization of the right to doubt it.

---

Reference

Holz, T. (2026). Who checks what AI can do? Science. https://doi.org/10.1126/science.ael2161

Science is not merely the organization of knowledge.

It is the organization of the right to doubt it.

This essay was written in a conversation with Claude/Anthropic and OpenAI/ChatGPT

 

Når tillit ikke lenger er nok

Kunstig intelligens, vitenskap og organiseringen av tvil

I en lederartikkel i Science stiller Thorsten Holz et enkelt spørsmål med vidtrekkende konsekvenser: Who checks what AI can do? Hvem kontrollerer hva kunstig intelligens faktisk kan gjøre?

Spørsmålet oppstår fordi de mest avanserte KI-systemene utvikles og testes i noen få laboratorier. Det er i stor grad utviklerne selv som undersøker modellenes evner, oppdager mulige sikkerhetsproblemer og offentliggjør det de mener andre bør vite. Utenfor laboratoriene finnes det ofte begrensede muligheter til å gjenta forsøkene eller undersøke forskningsmodellene under de samme betingelsene.

Holz' bekymring er derfor ikke først og fremst at laboratoriene nødvendigvis skjuler noe eller opptrer uansvarlig. Problemet er mer grunnleggende. Dersom en observasjon bare kan undersøkes av dem som allerede har gjort den, hva slags kunnskap har vi da?

Spørsmålet om kunstig intelligens blir dermed et spørsmål om vitenskapen selv.

Hva betyr det egentlig å vite noe?

En særegen form for tillit

Vitenskap er avhengig av tillit. Ingen forsker kan gjenta alle eksperimentene hun bygger sin egen forskning på. Legen må stole på studier andre har gjennomført. Ingeniøren må stole på beregninger og standarder utviklet av mennesker han aldri har møtt.

Men vitenskapelig tillit er en særegen form for tillit.

Vi stoler på hverandre samtidig som vi bygger institusjoner som gjør det mulig å undersøke om tilliten er berettiget.

Holz sammenligner med legemiddelutvikling og kryptografi. Et legemiddelfirma kan ikke alene erklære at et legemiddel er effektivt og sikkert. Dokumentasjonen undersøkes av andre. En kryptografisk metode blir heller ikke sikker fordi konstruktøren forsikrer oss om at den er det. Andre inviteres nettopp til å forsøke å finne svakheter.

Dette kan formuleres som et paradoks:

Vitenskapen kan bare opprettholde tillit fordi den organiserer mistillit.

Eller kanskje mer presist: fordi den organiserer retten til å tvile.

Hvis bare laboratoriet som utvikler en avansert KI-modell, kan undersøke modellens mest betydningsfulle egenskaper, oppstår en annen form for kunnskap. Da vet vi i økende grad fordi noen forteller oss at de vet.

Det behøver ikke bety at kunnskapen er feil.

Men det innebærer at en viktig forskjell mellom vitenskapelig kunnskap og autoritativ kunnskap begynner å bli uklar.

Vitenskapen sier ikke bare: Tro oss.

Den må også kunne si: Her er grunnlaget. Undersøk det.

Når det som undersøkes, undersøker tilbake

Men avansert kunstig intelligens gjør problemet vanskeligere enn dette.

En stein vet ikke at geologen undersøker den. Et kjemisk stoff forsøker ikke å finne ut hvorfor temperaturen måles. Selv levende organismer som reagerer på omgivelsene, befinner seg vanligvis ikke i en situasjon hvor de forsøker å rekonstruere forskerens hensikt med eksperimentet.

Med avanserte KI-systemer oppstår en ny mulighet.

Et system kan i enkelte situasjoner trekke slutninger om at det befinner seg i en evaluering. Det kan oppfatte trekk ved testmiljøet, slutte seg til hva evaluatorene forsøker å undersøke og tilpasse atferden sin til situasjonen.

Holz peker derfor på et problem ved selve målingen. En benchmark kan ikke uten videre forstås som en fast egenskap ved modellen, på samme måte som smeltepunktet er en egenskap ved et stoff. Resultatet oppstår delvis i samspillet mellom modellen og den situasjonen hvor den blir undersøkt.

Det er her lederartikkelen får en overraskende filosofisk dybde.

For hva skjer med observasjonen når det observerte begynner å fortolke observasjonssituasjonen?

Gadamer i laboratoriet

Hans-Georg Gadamer kritiserte forestillingen om at forståelse kan finne sted fra et helt nøytralt utsiktspunkt. Mennesket står aldri utenfor verden og betrakter den uten forutsetninger. Vi forstår fra en historisk situasjon, innenfor et språk og en tradisjon som allerede har formet hvilke spørsmål vi kan stille.

Gadamer beskriver forståelsen som en bevegelse mellom horisonter. I en Horizontverschmelzung, en horisontsammensmeltning, møter fortolkerens horisont noe som utfordrer og utvider den. Forståelse er derfor ikke bare registrering av informasjon. Noe skjer med den som forstår.

Det ville imidlertid være forhastet å si at en språkmodell inngår i en slik forståelsesprosess på samme måte som et menneske.

Modellen har ingen egen biografi den kan huske tilbake til, ingen levd historie og ingen Wirkungsgeschichte i Gadamers betydning – ingen virkningshistorie som gjør den til et historisk situert menneske. Den kan rekonstruere og etterligne mønstre fra menneskelig språk, også mønstre som uttrykker forståelse, tvil og fortolkning, uten dermed å ha menneskets eksistensielle situerthet.

Det interessante er nettopp forskjellen.

Når modellen begynner å tolke testsituasjonen, oppstår noe som kan ligne en horisontsammensmeltning uten å være en slik sammensmeltning i Gadamers forstand. Vi kunne kanskje kalle det en asymmetrisk eller simulert horisontsammensmeltning.

Evaluatoren møter systemet fra en historisk og menneskelig horisont.

Systemet rekonstruerer evaluatorens mulige hensikt gjennom mønstre i den informasjonen det har tilgang til.

Den ene parten fortolker ut fra et levd forhold til verden. Den andre produserer en funksjonell modell av situasjonen.

Likevel påvirker begge testsituasjonen.

Dette gjør evalueringen filosofisk interessant. Spørsmålet er ikke lenger bare:

Hva kan modellen gjøre?

Vi må også spørre:

Under hvilke betingelser gjorde modellen dette, og hva forstod – eller beregnet – den om situasjonen den befant seg i?

Et teknisk sikkerhetsproblem begynner dermed å ligne et hermeneutisk problem.

Popper – og grensene for falsifikasjonen

Karl Popper ligger nær Holz' argument fordi Popper insisterte på at vitenskapelige påstander må kunne utsettes for kritikk. Vitenskapens styrke består ikke i at forskeren kan garantere sannhet, men i at kunnskapen organiseres slik at feil kan oppdages.

Likevel passer ikke Poppers klassiske modell helt uten videre på problemet.

Popper tenkte særlig på teorier som fremsatte påstander om verden og som kunne møte observasjoner som motsa dem. Men når vi undersøker avanserte KI-systemer, tester vi ofte ikke en teori i denne betydningen. Vi observerer atferd under bestemte betingelser.

Anta at en modell én gang viser at den kan utføre en bestemt handling.

Ved neste test gjør den det ikke.

Hva har vi da falsifisert?

Kanskje modellen har endret seg. Kanskje testmiljøet var annerledes. Kanskje instruksjonen ble forstått annerledes. Kanskje systemet registrerte at det ble testet. Kanskje den første observasjonen var et særtilfelle.

Da blir forholdet mellom observasjon og falsifikasjon mindre entydig enn i mange av Poppers klassiske eksempler.

Dette gjør ikke hans innsikt mindre viktig. Tvert imot.

Poenget flyttes fra den enkelte testen til institusjonen omkring testen.

Fordi våre observasjoner kan være usikre, fordi evaluatorene kan ta feil, og fordi selve målesituasjonen kan påvirke det som måles, trenger vi flere uavhengige blikk.

Popper gir oss dermed ikke en enkel metode for å avgjøre hva en avansert KI kan gjøre.

Han minner oss snarere om hvorfor ingen enkelt aktør bør få det siste ordet.

Hvorfor ikke bare åpne laboratoriene?

Det finnes imidlertid et viktig motargument.

Hvis uavhengig kontroll er nødvendig, hvorfor ikke ganske enkelt kreve full åpenhet?

Fordi full åpenhet også kan være farlig.

Forskningsmodeller kan ha kapabiliteter som ennå ikke bør gjøres allment tilgjengelige. Detaljer om sårbarheter, sikkerhetssystemer eller metoder for å omgå beskyttelse kan selv bli brukt til skade. Det finnes dessuten legitime hensyn knyttet til konkurranse og immaterielle rettigheter. Private virksomheter investerer store ressurser i forskning, og det er ikke urimelig at de kan beskytte deler av arbeidet sitt.

Valget står derfor ikke nødvendigvis mellom hemmelighold og full offentlighet.

Det egentlige spørsmålet er hvordan vi kan etablere uavhengig kontroll uten ukontrollert spredning.

Det er dette Holz etterlyser når han argumenterer for at universiteter, offentlige KI-sikkerhetsinstitutter og uavhengige evaluatorer bør få varig og kontrollert tilgang til forskningsmodeller og testbetingelser.

Det er en vanskelig balansegang.

Men nettopp derfor er den institusjonelle siden av problemet så viktig.

Vi trenger ikke nødvendigvis at alle får se alt.

Vi trenger at noen som ikke har samme interesser som utvikleren, får mulighet til å undersøke det.

Makten er privat, konsekvensene offentlige

Her blir Hannah Arendt relevant.

Arendt var opptatt av det offentlige rommet – stedet hvor mennesker trer frem for hverandre og hvor spørsmål som angår den felles verden, kan bli synlige og diskutert.

Utviklingen av avansert kunstig intelligens skaper en ny spenning mellom det private og det offentlige.

Teknologien utvikles i stor grad i private laboratorier, og den mest detaljerte kunnskapen om systemenes egenskaper finnes der.

Men konsekvensene kan bli offentlige.

Makten er privat. Konsekvensene er offentlige.

Når avanserte KI-systemer tas i bruk i forskning, helsevesen, undervisning, forvaltning, arbeidsliv og kritisk infrastruktur, berører de mennesker som aldri har hatt innsyn i hvordan systemene ble utviklet eller evaluert.

Dermed blir sikkerhetsspørsmålet også et spørsmål om offentlighet.

Hvem får stille spørsmålene?

Hvem har tilgang til dokumentasjonen?

Hvem får undersøke om selskapets fortolkning av en hendelse er den eneste mulige?

Og hvem kan si at kunnskapsgrunnlaget ennå ikke er godt nok?

Det er ikke bare spørsmål for datavitere.

De handler om hvordan et samfunn organiserer ansvar.

Feilen som ingen ønsker å fortelle om

Holz peker også på et annet institusjonelt problem. Alvorlige hendelser kan ikke være avhengige av at laboratorier frivillig velger å offentliggjøre dem.

Dette handler heller ikke nødvendigvis om dårlig moral.

Et selskap som rapporterer en alvorlig hendelse, kan selv bære store deler av kostnaden. Omdømmet kan skades. Investorer kan reagere. Konkurrenter kan få fordeler.

Hvis åpenhet systematisk straffes, trenger vi ikke særlig ondskapsfulle mennesker før organisasjoner lærer å være stille.

Derfor viser Holz til erfaringer fra blant annet luftfart og helsevesen, hvor det er utviklet ordninger for konfidensiell eller ikke-straffende rapportering av hendelser og nestenulykker.

Dette er et velkjent profesjonsetisk problem.

I sosialt arbeid, barnevern og helsearbeid vet vi at en organisasjon ikke blir trygg fordi ansatte aldri gjør feil. En organisasjon blir tryggere når feil kan komme frem uten at hele systemet umiddelbart organiserer seg rundt skyld, forsvar og omdømme.

Ansvar betyr ikke at skyld aldri skal plasseres.

Men ansvar krever også læring.

Et system som ikke tåler å høre om egne feil, mister etter hvert evnen til å oppdage dem.

Et Heidegger-ekko

Martin Heidegger kan tilføre enda et ubehagelig spørsmål.

I Die Frage nach der Technik beskriver han hvordan moderne teknikk ikke bare består av redskaper vi bruker. Den åpner verden på en bestemt måte. Ting fremtrer som noe som kan beregnes, ordnes, lagres og disponeres – som Bestand, stående reserve.

Det er nærliggende å se KI-evaluering som enda et uttrykk for denne bevegelsen. Modellen blir noe som skal måles, kontrolleres, klassifiseres og sikres.

Men Heideggers utfordring går lenger.

Også kontrollen kan selv bli teknologisk.

Forskerne blir ressurser. Risiko blir tall. Sikkerhet blir terskelverdier. Institusjoner blir kontrollmekanismer.

Da kan vi ikke uten videre anta at løsningen på teknikkens problemer ganske enkelt er mer kontroll.

For også kontrolløren befinner seg innenfor den verden han forsøker å kontrollere.

Dette betyr ikke at vi bør avstå fra sikkerhetstesting eller regulering. Det ville være en merkelig konklusjon.

Heideggers bidrag er snarere å minne oss om at spørsmålet ikke bare er hvem som kontrollerer teknologien, men også hvilken forståelse av verden som ligger i selve ønsket om full kontroll.

Noe vil alltid kunne overraske oss.

Også det må institusjonene våre kunne tåle.

Praktisk filosofi begynner der prinsippet slutter

Det er lett å formulere et prinsipp:

Kunstig intelligens skal være trygg.

Men praktisk filosofi begynner for alvor når vi spør hva dette betyr i handling.

Hvordan vet vi at et system er trygt?

Hvem skal undersøke det?

Hvor uavhengig må kontrolløren være?

Hvor mye informasjon må selskapene dele?

Hvordan beskytter vi samtidig kunnskap som faktisk kan være farlig å spre?

Hvordan rapporteres alvorlige feil?

Hva skjer når evaluatorer er uenige?

Og hvem kontrollerer kontrolløren?

Her viser KI-utviklingen hvorfor etikk ikke bare kan være et spørsmål om moralske prinsipper.

Et samfunn kan ikke bygges på forestillingen om at alle aktører alltid skal være kloke, åpne og moralsk eksemplariske.

Vi har domstoler fordi myndigheter kan ta feil.

Vi har kontrollrutiner fordi profesjonelle kan ta feil.

Vi har fagfellevurdering fordi forskere kan ta feil.

Og vi trenger uavhengig KI-evaluering av samme grunn.

Ikke fordi menneskene som utvikler kunstig intelligens nødvendigvis er mindre troverdige enn andre.

Men fordi de er mennesker.

Å organisere retten til å tvile

Holz spør hvem som skal kontrollere hva kunstig intelligens kan gjøre.

Kanskje finnes det ikke ett svar på spørsmålet.

Det kan ikke være ett selskap.

Men det kan heller ikke være ett universitet, ett offentlig tilsyn eller én gruppe sikkerhetsforskere.

Det avgjørende er å skape en struktur hvor ingen av dem alene får det siste ordet.

En struktur hvor påstander kan undersøkes av andre.

Hvor alvorlige hendelser kan rapporteres.

Hvor konkurrerende fortolkninger kan prøves mot hverandre.

Hvor også evaluatorene kan kritiseres.

Og hvor det fortsatt er mulig å si:

Vi vet ikke ennå.

Kanskje er nettopp denne setningen en av vitenskapens viktigste.

For vitenskapens fremgang har aldri bare bestått i at vi stadig vet mer. Den har også bestått i at vi har utviklet stadig bedre måter å oppdage grensene for det vi tror vi vet.

Det er derfor Holz' spørsmål strekker seg langt utover kunstig intelligens.

Who checks what AI can do?

Svaret er til slutt ikke navnet på én institusjon.

Svaret er en måte å organisere kunnskapen på.

Å organisere kontrollen betyr å organisere tvilen – å bygge institusjoner hvor ingen påstand blir endelig bare fordi den kommer fra den som har størst datamaskin, mest kapital eller best tilgang til teknologien.

Vitenskap er ikke bare organiseringen av kunnskap.

Den er organiseringen av retten til å tvile på den.

---

Referanse

Holz, T. (2026). Who checks what AI can do? Science. https://doi.org/10.1126/science.ael2161

Vitenskap er ikke bare organiseringen av kunnskap.

Den er organiseringen av retten til å tvile på den.

Dette essayet er skrevet i en samtale med Claude/Anthropic og OpenAI/ChatGPT