Kunstig intelligens og etikk: Hva må vi passe oss for?

Som tilfellet er med alle andre maskiner, programmer og algoritmer, kan et kunstig intelligens-drevet program eller virkemiddel selvsagt brukes på etisk eller uetisk vis. Og de som lager det og tillater at det brukes, kan ha det vi kaller moral. Kunstig intelligens (KI) i seg selv vil jeg være langt forsiktigere med å bruke slike ord til å beskrive. En forutsetning for etikk og moral i full forstand er bevissthet, og samme hvor bevisst KI kan fremstå for oss, snakker vi ikke om vesener med samvittighet, selvrefleksjon, tvil eller tro.

Men det gjør ikke spørsmålet om etikk og KI mindre viktig, tvert imot. Når vi i vår tid er i ferd med å utvikle to av de mektigste former for teknologi som verden har sett, bio- og genteknologi på den ene siden og digital KI-teknologi på den andre (hvorav den første i økende grad vil formes av den andre), er vi nødt til å gjennomtenke kritisk hva denne utviklingen betyr for grunnleggende verdier som menneskeverd, rettsstat, folkestyre og bærekraft.

For å sette det på spissen (og noen ganger gjør saker seg best der): Dersom vi i årene som kommer igjen får slike autoritære og totalitære trusler som preget verden for snart hundre år siden (og mange slike tegn ser vi allerede), er vi nødt til å huske at en Adolf Hitler, Josef Stalin eller Mao Zedong av i dag vil ha tilgang til moderne bio- og genteknologi, hyperavansert kommunikasjonsteknologi og kunstig intelligens. Det er intet pent bilde.

Skal vi dermed innta en form for ekstrem pessimisme? Selvsagt ikke. Men vi må være årvåkne og spørrende – og den holdningen må starte i det nære og konkrete.

Jeg skal i det følgende berøre fire elementer som vi må være oppmerksomme på og gjennomtenke: hastighet, kontroll, makt og faren for avlæring.

Hastighet

Det er to måter selve KI-teknologiens hastighet er utfordrende på.

For det første utvikler teknologien og dens bruksområder seg i rekordfart. Vi kan sammenligne det som nå skjer, med 1960-tallet, da menneskeheten i løpet av et tiår gikk fra å ha jorden som sitt tilholdssted til å bli et vesen som kan reise i verdensrommet. En helt enestående teknologisk utvikling skjedde på uhyre kort tid, dels drevet frem av politiske hensyn (romkappløpet mellom USA og Sovjetunionen), men også drevet frem av en revolusjonerende oppfinnsomhet og fantastiske teknologiske nyvinninger.

Romkappløpet betydde imidlertid mindre for folks hverdag enn det KI gjør i dag (selv om mange teknologier fra romfarten etter hvert ble brukt i jordisk og helt hverdagslig sammenheng). Ting vi nå kan gjøre med digital teknologi generelt og KI spesielt, ville ha vært komplett utenkelige for bare noen tiår siden, og de er raskt blitt del av vårt daglige liv. Interaksjonen mellom teknologier – og mellom teknologi og biologi – gjør utviklingen enda kraftigere.[1]

Det betyr at det også blir vanskeligere å forutsi hvor vi beveger oss, og forberede oss på det som kommer. Både politisk regulering og hverdagslig etisk beredskap krever en viss grad av kunnskap om hva vi regulerer, og hva vi bygger beredskap mot. Den kunnskapen er svært begrenset i dag, nettopp fordi hastigheten i den teknologiske utviklingen er så enorm, og fordi de forskjellige teknologiene som utvikles, kan kombineres på måter vi rett og slett ikke kan se for oss i dag. Da de berømte Tilbake til fremtiden-filmene ble laget på 1980-tallet, var det utrolig nok ingen mobiltelefoner med i filmen om fremtiden (år 2015!), selv om mobilteknologien allerede var på rask vei inn i hverdagen. Med det som bakgrunn kan vi spørre hva vi egentlig vet om teknologiene som vil prege 2040- og 50-tallet? Denne type usikkerhet er riktignok ikke noe nytt, men den er i ferd med å bli enda mer dramatisk grunnet KI-teknologiens kraft og endringstakt.

For det andre er hastighet nøkkelordet ved selve teknologiens væremåte og bruk. En tekstbasert KI kan samle tekster og språk fra millioner av forskjellige kilder og sette dem sammen i rekordfart, slik at nye tekster og språklige uttrykk blir generert, endret og videreutviklet langt raskere enn det vi mennesker makter å forstå eller ha kontroll over. Kombinasjonen av hastighet og enorm tilgang til materiale i en nær uendelighet av sammensetninger gjør også at mennesker kan bli utkonkurrert hva angår en rekke arbeidsoppgaver. Det i seg selv er intet nytt: Regnemaskiner har utkonkurrert hastigheten til menneskelig regning i årevis, og ny teknologi har erstattet arbeidsplasser gang på gang. Det er heldigvis noe menneskeheten stort sett har klart å takle, om enn gradvis, i kjølvannet av tidligere vitenskapelige revolusjoner. Det spesielle nå er at selve teknologien har en hastighet som gjør det nær umulig å kontrollere og etterprøve det den gjør, annet enn med teknologiens egne midler. Da skaper hastigheten også langt mindre mulighet for å forstå og forutsi det som skal skje.

Det leder oss til den neste store utfordringen.

Kontroll 

Følelsen av å miste kontrollen over teknologi er – i likhet med flere av problemstillingene vi allerede har nevnt – ikke ny. Når teknologien det er snakk om utvikler seg uhyre raskt og fremstår for sine brukere som både reelt intelligent og selvlærende, blir imidlertid problemstillingene av en annen art enn noe vi før har sett.

En del utfordringer er velkjente fra tidligere, fra manglende forståelse for teknologien vi bruker, og prosesser vi ikke klarer å stanse når de først er igangsatt, til overdreven bruk og avhengighet. Det som gjør KI annerledes, er teknologiens mulighet til selv å ta kontroll og derigjennom gjøre ting vi ikke er i stand til å overskue. Den litterære sammenligningen til Mary Shelleys berømte roman Frankenstein trekkes ofte: Vitenskapsmannen som skaper et vesen han mister kontroll over, et vesen som synes å ha sin egen vilje og begår handlinger skaperen verken kan forutsi eller styre.

Dette er definitivt en etisk problemstilling, for den handler om hvorvidt vi vil makte å sette grenser for KI som sikrer at teknologien brukes til menneskeverdige formål og ikke skaper utilsiktede bivirkninger som kan skade menneskers verd og rettigheter, eller for den saks skyld naturens bærekraft.[2] De fleste som arbeider med KI, sier derfor at et minstemål av menneskelig kontroll er helt påkrevd, herunder muligheten til å kunne stoppe og tilbakekalle teknologi,[3] og en god nok forståelse av teknologien både fra dem som skaper den og dem som bruker den, slik at man ikke anvender teknologi som er kraftigere og har mer dramatiske konsekvenser enn noe man kan gripe – og dermed kan klare å endre og kontrollere.

Makt 

Kontroll fordrer at noen har makt både til å regulere, til å kritisere og til å sette grenser. Mange vil mene at en betydelig konsentrasjon av makt hos noen gedigne selskaper reduserer den reelle muligheten til slik kontroll. Dag Hareide sier det slik:

Verdensveven var en allmenning, en vidunderlig gave til menneskene. Men den tiltrakk seg okkupanter. Teknomaktene overtok for teknologene. Noen få gigantselskaper erobret en historisk unik pengemakt.[4]

Blant disse «teknomaktene» finner vi Meta (tidl. Facebook), Google, Microsoft, Apple, Amazon, OpenAI og Taiwan Semiconductor Manufacturing. Sammen med noen kinesiske selskaper har disse en nesten total dominans over markedet for KI-drevne produkter. Det betyr også at de har en gedigen makt til å bestemme hva som skal produseres, hvilke budskap som skal formidles, og hvordan tjenestene og produktene skal prises og presenteres. Varsleren Frances Haugen påviste at Facebook langt fra fulgte opp egne løfter om å være etisk bevisst når det gjelder hvordan deres plattform og annonser negativt påvirker unge menneskers selvbilde og mentale helse, bidrar til vold eller sprer rene løgner. Makten deres var – og er – så stor at de ifølge Haugen kunne si én ting og gjøre noe helt annet. Haugens budskap gjorde dypt inntrykk, men det krever mye å få så mektige selskaper til å endre oppførsel.[5] Bekymringen er stor for at det i praksis er ganske lite vi kan gjøre.

Hareides observasjon ovenfor er interessant, om enn den handler om Internett og ikke KI som sådan. Poenget er jo nettopp at Internett ble sett på som åpnende og demokratiserende. Her kunne alle få være med, si sin mening og påvirke det som ble skapt og delt. Til en viss grad er det selvsagt fortsatt sant. Men med den ytterligere utviklingen som KI gir, kombinert med den makten som noen relativt få teknologi-giganter som utvikler og styrer teknologien, har, og den enorme kompleksiteten ved selve teknologien, kan vi ende opp med å bli styrt snarere enn å styre, uten selv å forstå måtene vi blir styrt på. Etisk sett blir derfor kravet om motmakter, ikke minst gjennom forbrukermakt og åpen debatt, uhyre viktig. Den motmakten må hver og én av oss være en del av.

Avlæring 

La oss til slutt se på hvordan KI endrer hva vi mennesker faktisk kan.

Veldig få mennesker kan i dag veve stoff eller melke en ku. Oppgaver som en lang rekke mennesker tidligere kunne utføre, er i dag gjort av maskiner, og selve kompetansen kan sies å være avlært for de fleste av oss – vi kan det rett og slett ikke lenger. Snart vil svært få kunne kjøre bil med manuelt gir, og det å lese et kart blir stadig mindre nødvendig, og noe som stadig færre kan, etter hvert som Google og andre karttjenester gjør jobben for oss.

KI-styrte programmer og applikasjoner vil akselerere denne utviklingen – og de gjør det allerede. Et godt eksempel er hentet fra tekstbehandlingens verden. KI-programmer kan nå lese gjennom lange, komplekse tekster, hente ut essensen for oss og lage korte sammendrag eller presentasjoner. Likeså kan de skrive tekst selv. En stil eller et essay som det normalt ville ta dagevis eller ukevis å lage, kan et program som ChatGPT lage på noen sekunder.

Det er mange spørsmål som er blitt stilt rundt denne utviklingen, herunder faren for juks og faren for et digitalt klasseskille mellom dem som har tilgang til og klarer å bruke teknologien, og dem som ikke har det. I tillegg kommer spørsmålet om tillit: Hvordan kan vi vite at det vi blir presentert for, er sant, og hva vet vi om hvordan det er generert?

Her vil jeg imidlertid stille et annet spørsmål, nemlig hvorvidt vi står overfor en potensielt farlig avlæring, dvs. at vi står i fare for å miste evnen til å utføre oppgaver som vi av forskjellige grunner burde klare å utføre, også dersom de er slitsomme og krever mye av oss (eller kanskje spesielt da!). KI vil kunne gjøre ting så mye raskere og enklere at vi kommer til å glemme hvordan – kanskje til og med hvorfor – oppgavene egentlig skulle utføres. Hva om mange av oss i praksis glemmer å skrive, analysere, memorere, regne eller navigere, for bare å nevne noen menneskelige funksjoner som KI i stadig økende grad utfører.

Dette er også et etisk problem: Vi overlater til maskiner å utføre oppgaver som på sitt beste foredler oss og gjør oss til bedre, mer intelligente og klokere mennesker. Kan vi da også miste noe av den opplevde meningen ved å være menneske?

Avslutning 

Gjennom denne korte gjennomgangen har jeg pekt på noen av de etiske problemene som er mye diskutert i dagens debatt om KI. Det har ikke et øyeblikk vært min hensikt å si at utviklingen ikke bringer mye som er positivt – ja, fantastisk – også sett i et etisk lys. Medisinske diagnoseprogrammer med langt større hastighet og lavere feilprosent, våpen som treffer sine mål langt mer nøyaktig og med mye lavere sivile tap, tekstbehandlingssystemer som hjelper oss å forstå og beherske kompliserte oppgaver og materiale, utregninger og oppdagelser som gjør at vi kan handle mer effektivt i møte med miljø- og matvarekriser, transportmidler som er langt mindre utsatt for ulykker: Alt sammen vil være store fremskritt også av etisk art. Hver for seg beskytter de menneskeverdet og menneskelivet.

Likevel: Vi må stille de kritiske spørsmålene om hastighet, kontroll, makt og kompetanse før teknologien er kommet så langt at det er for sent. I de gale hender og med mangelfull kontroll og forståelse kan vi utvikle en teknologi som setter grunnleggende menneskelige hensyn til side – eller sjakk matt.

Det er en uhyre viktig og meningsfull oppgave å sørge for at vi ikke havner der.

Fotnoter

[1] Det skal likevel huskes her – som Jon Bing pleide å understreke – at vi også tidligere i historien selvsagt har sett dramatiske endringer og teknologiske nyvinninger som faktisk har betydd mye, helt direkte, for menneskers hverdag: fra trykkpressen og det moderne, trefiber-baserte papiret til elektrisiteten, telefonen og kringkastingen. (Takk til Trygve Bergsland for denne påminnelsen og også andre gode kommentarer til et tidligere artikkelutkast.) I et slikt lys er kanskje ikke KI noe nytt. Samtidig er kraften og endringstakten i den teknologien som nå utvikles, så stor at jeg likevel vil påstå at det er noe ganske unikt som skjer.

[2] Stuart Russell er blant de mest kjente KI-spesialistene som har understreket det essensielle i at teknologien må brukes til menneskeverdige formål, se hans viktige bok Human Compatible (London: Penguin, 2019).

[3] Den lovgivningen som er kommet lengst og pr. i dag er mest omfattende på dette feltet, er «The EU Artificial Intellgence Act», som trer i kraft i 2025, se https://artificialintelligenceact.eu/.

[4] Dag Hareide: «Vi er alle borgere i Digitalistan», i: Den digitale hverdagen, red. Asbjørn Rolstadås et al., s. 315. Bergen: John Grieg Forlag.

[5] Dan Milmo, «Frances Haugen: ‘I never wanted to be a whistleblower. But lives were in danger’», The Guardian, 24. oktober 2021, https://www.theguardian.com/technology/2021/oct/24/frances-haugen-i-never-wanted-to-be-a-whistleblower-but-lives-were-in-danger.