Når maskinen kan gjøre arbeidet – hvorfor skal mennesket fortsatt gjøre det?

Daron Acemoglu stiller i et innlegg i Nature et spørsmål som lett forsvinner i både begeistringen og frykten omkring kunstig intelligens. Han spør ikke først og fremst hvor intelligent KI kan bli. Han spør hvilken retning vi ønsker at utviklingen skal ta.

Tittelen er programmatisk: Don’t let AI tools replace humans. Vi bør ikke utvikle kunstig intelligens først og fremst for å erstatte mennesker, skriver han, men for å styrke menneskelig ekspertise og utvide menneskers muligheter.

Det er et viktig skille. Men kanskje går spørsmålet enda dypere.

For det som står på spill, er ikke bare mennesket som arbeidstaker.

Det er mennesket som deltaker.

Når stadig flere oppgaver kan utføres av maskiner, må vi spørre hva arbeid egentlig betyr for oss. Er arbeid først og fremst produksjon av et resultat? Eller er arbeid også en måte å tre inn i verden på – gjennom ferdighet, ansvar, samarbeid, anerkjennelse og deltagelse?

Det spørsmålet er langt eldre enn kunstig intelligens.

Når effektiviteten blir målestokken

Dersom arbeid først og fremst forstås som produksjon, er den teknologiske logikken enkel.

Kan en maskin gjøre arbeidet raskere, billigere og bedre enn et menneske, bør maskinen overta.

Vi har fulgt denne logikken lenge. Maskiner har overtatt fysisk krevende arbeid, industriroboter repetitive arbeidsoppgaver og datamaskiner store deler av beregning og administrasjon.

Acemoglu viser til forskning som tyder på at automatiseringen siden 1980 har bidratt til økende ulikhet i USA ved å redusere etterspørselen etter mennesker som utfører rutineoppgaver. Han viser også til industrirobotene: Produktiviteten økte, mens enkelte lokalsamfunn som ble sterkt eksponert for automatiseringen, opplevde fall i sysselsetting og lønn.

Kunstig intelligens utvider denne logikken til områder vi lenge har oppfattet som menneskelig kunnskapsarbeid. Den kan skrive, oversette, analysere, programmere og sammenfatte store mengder informasjon. Den kan bistå i diagnostikk, undervisning og forskning.

Dermed blir spørsmålet ikke lenger bare hvor mye arbeid som kan automatiseres.

Vi må spørre hva som skjer med menneskelig praksis når det automatiseres.

Læreren vet mer enn hun kan si

Acemoglu bruker læreren som eksempel. Kunstig intelligens kan utvikles for å erstatte læreren, men den kan også hjelpe læreren til å oppdage hvor elevene strever og gi bedre individuelt tilpasset støtte.

Forskjellen er grunnleggende.

I det første tilfellet spør vi hvordan vi kan klare oss uten læreren.

I det andre spør vi hvordan læreren kan bli bedre i stand til å være lærer.

Men hvorfor skulle det være en forskjell dersom KI faktisk kan overføre informasjon like godt eller bedre?

Her kan Heidegger hjelpe oss.

Hubert Dreyfus brukte Heideggers filosofi til å vise forskjellen mellom å vite at og å vite hvordan. Menneskelig kompetanse består ikke bare av eksplisitte regler eller informasjon som kan formuleres. Den er kroppslig, situert og innvevd i en verden av betydninger.

Heideggers begrep Zuhandenheit peker nettopp mot denne formen for praktisk omgang. Når vi behersker et redskap eller en praksis, står vi vanligvis ikke utenfor situasjonen og analyserer den. Vi befinner oss allerede i den.

Den erfarne læreren følger ikke nødvendigvis en regel når hun oppfatter at en elev ikke har forstått. Hun kan høre det på måten spørsmålet blir stilt, se det i en nøling eller merke at stemningen i rommet har endret seg. Noe av dette kan senere beskrives, men ferdigheten kommer før beskrivelsen.

Det betyr ikke at en KI aldri kan oppdage de samme tegnene.

Poenget er et annet.

Lærerens kunnskap er ikke bare informasjon om undervisningssituasjonen. Den er en kunnen i situasjonen.

Hun er selv en del av det som skjer.

Arbeid som deltagelse

Da blir også spørsmålet om arbeid et annet.

Arbeid handler selvfølgelig om inntekt og produksjon. Men gjennom arbeidet lærer vi også å gjøre noe, inngår i relasjoner og blir deltagere i institusjoner og praksiser som eksisterte før oss og fortsetter etter oss.

Vi får oppgaver som andre forventer at vi utfører. Noen blir avhengige av det vi gjør. Vi får erfaring, ansvar og kanskje en følelse av mestring.

Arbeid er ikke automatisk meningsfullt. Det kan være monotont, nedbrytende og unødvendig. Mye arbeid bør nettopp automatiseres.

Men dersom arbeidets verdi bare måles gjennom produktivitet, forsvinner noe fra regnskapet.

Et samfunn kan produsere mer samtidig som færre mennesker får anledning til å erfare at de bidrar til noe som også andre er avhengige av.

Det er derfor Acemoglus skille mellom å erstatte og å styrke mennesker er viktig. Teknologien har ikke ett forhåndsbestemt sosialt formål, skriver han. KI kan utvikles for substitusjon, men også for å komplettere mennesker og øke deres ferdigheter og produktivitet.

Men teknologien velger ikke mellom disse mulighetene.

Det gjør vi.

Teknologien har ingen skjebne

Vi snakker ofte om kunstig intelligens som om den var været.

KI kommer til å overta.

KI vil gjøre oss overflødige.

KI vil forandre arbeidslivet.

Men KI gjør ingenting av dette av seg selv.

Noen utvikler systemene. Noen finansierer dem. Noen bestemmer hvilke problemer de skal løse, og hvilke former for effektivitet som skal belønnes.

Derfor legger Acemoglu vekt på politikk. Han foreslår blant annet å endre økonomiske insentiver som favoriserer automatisering, bygge sterkere offentlig kompetanse om kunstig intelligens og utvikle et bedre juridisk rammeverk for data.

Detaljene kan diskuteres.

Det grunnleggende poenget er vanskeligere å avvise:

Teknologiens retning er ikke skjebne.

Den formes gjennom økonomiske prioriteringer, politiske beslutninger og forestillinger om hva som teller som fremskritt.

Og dermed blir spørsmålet til slutt filosofisk.

Hva ønsker vi at teknologien skal gjøre med vår måte å leve sammen på?

Maskinen skal få overta

Det betyr ikke at menneskelig arbeid skal beskyttes mot maskinen.

Tvert imot.

Hvis en maskin kan gjøre farlig arbeid, bør den ofte gjøre det. Hvis en datamaskin kan utføre på sekunder en beregning som tidligere tok flere dager, er det ingen grunn til å bevare den langsomme beregningen av hensyn til menneskelig verdighet.

Og dersom kunstig intelligens kan frigjøre legen, læreren, forskeren eller sosialarbeideren fra timer med rutinepreget administrasjon, kan resultatet bli mer menneskelig arbeid, ikke mindre.

Det avgjørende skillet går derfor ikke mellom menneske og maskin.

Det går mellom forskjellige former for arbeid.

Hva kan med fordel overlates til maskinen?

Og hva bør mennesket fortsatt gjøre fordi oppgaven innebærer nærvær, skjønn, deltagelse eller ansvar?

Her nærmer vi oss Hannah Arendt.

Arbeid, verk og handling

I The Human Condition skiller Arendt mellom labor, work og action.

Labor er knyttet til livets nødvendigheter og de gjentagende prosessene som opprettholder livet. Work skaper den mer varige menneskelige verden – ting, institusjoner og verk. Men action, handlingen, er av en annen karakter.

Gjennom handling og tale viser mennesket ikke bare hva det er, men hvem det er.

Handlingen foregår mellom mennesker. Den kan ikke fullt ut kontrolleres på forhånd. Når vi handler, setter vi noe i gang som får følger vi ikke helt kjenner. Derfor forbinder Arendt handling med natalitet – menneskets evne til å begynne noe nytt.

Dette gir KI-spørsmålet en annen dreining.

En maskin kan produsere et resultat.

Den kan til og med produsere et resultat som er bedre enn mitt.

Men handling i Arendts betydning handler ikke bare om resultatet.

Den handler om at noen trer frem blant andre og setter noe i gang.

Hvem står for dette?

Her tror jeg vi finner en viktig grense.

En KI kan skrive en tekst.

Men hvem står for teksten?

Den kan foreslå en medisinsk vurdering.

Men hvem møter pasienten?

Den kan analysere forskningsdata.

Men hvem sier: Dette funnet kan jeg forsvare?

Den kan anbefale læreren en bestemt handling.

Men hvem står foran barnet og må leve med konsekvensene?

«Jeg gjorde dette. Jeg står for det.»

Det er noe annet enn å kunne identifisere årsaken til et resultat.

Å stå ansvarlig innebærer at handlingen kan tilskrives en bestemt person som befinner seg i en verden sammen med andre mennesker, og som kan bli spurt hvorfor hun gjorde som hun gjorde.

Hos Arendt er dette knyttet til et hvem.

Det er dette «hvem» som trer frem i handlingen.

Innenfor en slik forståelse er problemet med KI ikke først og fremst at maskinen mangler intelligens. Den kan kanskje etterligne stadig flere former for intelligent atferd.

Men den har ingen natalitet i Arendts betydning. Den er ikke født inn i en felles verden hvor den gjennom et levd liv blir et bestemt hvem blant andre.

Derfor bør vi være forsiktige med å forveksle handlingens resultat med handlingen selv.

Når redskapet former brukeren

Samtidig er kunstig intelligens mer enn et passivt redskap.

Alle redskaper former også den som bruker dem.

Hammeren gjør bestemte handlinger mulige. Bilen forandrer vår erfaring av avstand. Smarttelefonen har forandret vårt forhold til tilgjengelighet, hukommelse og oppmerksomhet.

Kunstig intelligens vil på samme måte ikke bare hjelpe oss med oppgaver som allerede eksisterer.

Den vil forandre oppgavene.

Forfatteren som bruker KI, skriver annerledes.

Forskeren som bruker KI, forsker annerledes.

Læreren som bruker KI, underviser annerledes.

Derfor bør vi ikke bare spørre hva kunstig intelligens gjør for oss.

Vi må også spørre hva arbeidet med kunstig intelligens gjør med oss.

Gjør redskapet oss dyktigere?

Skjerper det oppmerksomheten?

Utvider det dømmekraften?

Eller blir vi gradvis mindre villige til å gjøre det langsomme arbeidet som erfaring, kunnskap og forståelse noen ganger krever?

Ingen teknologi kan besvare det spørsmålet på våre vegne.

Hva slags samfunn ønsker vi?

Mot slutten av innlegget skriver Acemoglu at KI-fremtiden ikke bør bestemmes av drømmene til en liten gruppe teknologer. Den bør formes gjennom demokratiske valg om hva slags samfunn vi ønsker å bygge.

Kanskje er dette den viktigste tanken i hele teksten.

For spørsmålet om kunstig intelligens handler til slutt om menneskesyn.

Er det gode samfunnet det samfunnet som produserer mest mulig med færrest mulig mennesker?

Eller er produktivitet bare ett gode blant flere?

Vi trenger også deltagelse, tilhørighet, læring og muligheten til å bidra. Og vi trenger steder hvor mennesker fortsatt kan stå frem for hverandre som ansvarlige personer.

Da vender jeg tilbake til læreren.

Kanskje kan en fremtidig KI vite mer enn henne. Kanskje kan den oppdage elevens faglige problemer raskere, finne den beste forklaringen og foreslå den mest effektive undervisningsmetoden.

Alt dette bør læreren få hjelp til.

Men neste morgen er det fortsatt hun som åpner døren til klasserommet.

Hun møter elevene.

Hun må avgjøre hva hun skal gjøre med det hun vet.

Og når et barn senere spør hvorfor hun handlet som hun gjorde, kan hun ikke svare:

Algoritmen bestemte det.

Hun må kunne si:

Jeg vurderte situasjonen.

Jeg valgte.

Jeg står for det.

Kanskje er det nettopp dette vi bør bevare når maskinen etter hvert kan gjøre stadig mer av arbeidet.

Ikke mennesket som den mest effektive produsenten.