Hvem skriver når vi skriver sammen?

En praktisk-filosofisk refleksjon om kunstig intelligens, forskning og ansvar

I et innlegg i Science ble det nylig fortalt om en forsker som hadde publisert en fagfellevurdert vitenskapelig artikkel skrevet av kunstig intelligens. Forskeren la ikke skjul på fremgangsmåten. Han hadde selv utviklet ideene, samlet materialet og styrt hele prosessen, men lot kunstig intelligens formulere teksten. Hans begrunnelse var enkel: «Artikkelen har min sjel og kunstig intelligens sine ord.»

Kommentaren som fulgte, var kritisk. Dette kunne være lovlig, men ble omtalt som forskningsetisk problematisk.

Jeg forstår innvendingen. Samtidig tror jeg spørsmålet er langt mer sammensatt enn et enkelt ja eller nei.

Hva er det egentlig vi vurderer når vi vurderer et vitenskapelig arbeid?

Er det teksten?

Eller er det tenkningen som teksten springer ut av?

Gjennom et langt akademisk liv lærte jeg at forskning begynner lenge før de første ordene skrives. Den begynner med undring, spørsmål, lesning, tvil, diskusjoner, erfaringer og gradvis modning. Selve skrivingen er viktig, men den er bare én del av en langt større intellektuell prosess.

I dag arbeider jeg annerledes enn jeg gjorde da jeg skrev doktoravhandlingen min i 2009.

Den gang satt jeg alene med bøker, notatbøker og datamaskin. Tankene utviklet seg i stillhet. Hvert avsnitt ble skrevet, strøket og skrevet på nytt. Arbeidet kunne vare i måneder.

I dag foregår mye av den samme prosessen i dialog med kunstig intelligens.

Jeg ber om motargumenter.

Jeg ber om innstramminger.

Jeg forkaster hele utkast.

Jeg flytter avsnitt.

Jeg ber om nye perspektiver.

Jeg diskuterer referanser.

Noen ganger er jeg uenig. Andre ganger oppdager jeg at teksten uttrykker noe jeg selv har forsøkt å formulere i årevis.

Men én ting har ikke forandret seg.

Det er fortsatt jeg som avgjør hva som blir stående.

Denne erfaringen har fått meg til å stille et annet spørsmål enn det som ofte dominerer debatten.

Kanskje er ikke det avgjørende spørsmålet:

Skrev kunstig intelligens teksten?

Kanskje er spørsmålet heller:

Hvem tenkte?

Dersom kunstig intelligens overtar den faglige vurderingen, trekker konklusjonene og forfatteren ukritisk publiserer resultatet, er det vanskelig å se hvordan forskningsansvaret kan opprettholdes.

Men dersom forskeren selv utvikler problemstillingen, vurderer argumentene, kontrollerer kildene, avviser svake resonnementer og tar fullt ansvar for sluttproduktet, får kunstig intelligens en annen rolle.

Da blir den ikke forsker.

Den blir et arbeidsredskap.

Likevel er ikke dette hele historien.

Språket er aldri bare en teknisk overflate. Hans-Georg Gadamer minner oss om at forståelse skjer gjennom språket. Ordene former ikke bare tankene; de er med på å skape dem. Når kunstig intelligens foreslår formuleringer, kan den derfor også åpne nye forbindelser mellom ideer som forfatteren selv ikke umiddelbart så.

Dette er både muligheten og utfordringen.

Muligheten er at dialogen kan gjøre tenkningen rikere.

Utfordringen er at forfatteren kan slutte å tenke selv.

Forskningsetikk handler derfor ikke først og fremst om hvem som skrev setningene. Den handler om hvem som bærer ansvaret for sannheten i dem.

Jeg opplever selv at kunstig intelligens ikke har erstattet skriveprosessen. Den har forandret den.

Den minner mindre om en sekretær enn om en utrettelig samtalepartner. En samtale kan utfordre mine argumenter, foreslå en annen struktur eller hente frem en filosof jeg hadde oversett. Men den kan ikke leve mitt liv, gjøre mine erfaringer eller overta mitt ansvar.

Det er fortsatt jeg som må avgjøre om teksten uttrykker noe sant.

Derfor tror jeg ikke fremtidens forskningsetikk først og fremst bør spørre om en tekst er skrevet med kunstig intelligens.

Den bør spørre om forfatteren fortsatt kan stå offentlig til ansvar for hvert resonnement, hver tolkning og hver konklusjon.

Kanskje er dette den egentlige prøven.

Ikke om maskinen kan skrive.

Men om mennesket fortsatt vil tenke.

For dersom kunstig intelligens blir en erstatning for dømmekraft, mister forskningen noe av sin sjel.

Men dersom den blir en dialogpartner som skjerper dømmekraften, kan den kanskje styrke den akademiske samtalen snarere enn å svekke den.

Til syvende og sist er det ikke ordene som avgjør forskningens verdi.

Det er den intellektuelle redeligheten til den som setter sitt navn under dem.

Dersom kunstig intelligens blir en erstatning for dømmekraft, 

mister forskningen noe av sin sjel.

Dette essayet er skrevet i en samtale med OpenAI/ChatGPT