Som akademisk institusjon har vi et særlig ansvar for å diskutere de mange utfordringene som kunstig intelligens representerer. Men gjør vi egentlig det?
Jeg er teknolog. En gang føltes det som en innrømmelse. Det var den gang teknologer ble sett på som ureflekterte mennesker, kanskje til og med avstumpede, uten forståelse for de dypere og virkelige verdiene i livet.
Slike holdninger kom for eksempel tydelig frem på begynnelsen av 90-tallet da det gamle NTH skulle fusjoneres inn i den nye store konstruksjonen NTNU. Da ble det pekt på at det var på høy tid at disse menneskene på Gløshaugen skulle lære seg vitenskapsfilosofi og andre høyverdigheter for å bli mer moralske og fullverdige mennesker.
Som daværende statsråd Hernes formulerte det den gang: «En teknolog som ikke har denne dype menneskelige dimensjon med i sin profesjonelle refleksjon, at broer og bomber, eksplosjonsmotor og oljeboring griper inn på alles vi og i alles liv, blir avstumpet».
I dag er stemningen annerledes. Nå føles det nesten som skryt når jeg i forbifarten nevner at jeg en gang har studert elektronikk. Men mest av alt handler det om at jeg trenger et slags alibi, et alibi som føles godt når jeg fremfører meninger som noen tolker som teknologiskepsis, eller til og med teknologifrykt. Grøss og gru.
Med stigende alder blir en fort plassert i den båsen, blant dem som ikke følger med i tiden og unnlater å omfavne alt som er nytt. Da er det godt å kunne slenge litt rundt med min stolte bakgrunn, sånn for å legge tyngde bak argumenter som uttrykker forbehold om teknologiens fortreffelighet. Av teknologioptimistene kreves det lite, for deres misjon er av det ærbare slaget. De skal sørge for fremskritt og redde verden.
Internett er kommet for å bli var det visst en som sa en gang, mens en annen mente det var en flopp. Vi vet hvordan det gikk, selv om noen i dag mener at internettet er «broken». Uansett, i dag er vi helt avhengige av datateknologi for å kunne gjøre jobben vår. Akademikere forholder seg daglig til en skog av ulike systemer ved utførelse av oppgaver som tidligere ble gjort med enklere verktøy. Det er normalen at nye systemer innføres uten noe særlig diskusjon om disse egentlig styrker utførelsen av det som er våre kjerneoppgaver. Mange fagansatte opplever tvert om at mange systemer blir til rene tidstyver. En ting er at teknologi kan stjele av vår tid, mer problematisk blir det om teknologi til og med går inn og påvirker det som er selve kjernevirksomheten vår.
En teknologi som hevdes vil komme til å føre med seg dyptgripende endringer i vårt samfunn, er kunstig intelligens (KI). Vi finner KI i mange av de applikasjonene vi bruker til daglig, uten at vi tenker så mye over det. Men da ChatGPT kom som en spennende førjulsgave i fjor, startet ganske raskt en debatt om KI i akademia. For denne chatboten representerte noe ganske annet enn det vi hadde sett før.
Høyskolen Kristiania meldte ganske tidlig om fuskesaker, og flere fulgte raskt på. Andre pekte på all feilinformasjonen som kom ut av denne chatboten, mens enkelte var mest opptatt av alle mulighetene som denne teknologien kunne gi oss. Utfordringer knyttet til fusk og annet fanteri fikk størst oppmerksomhet i begynnelsen, og hjemmeeksamen ble spådd en snarlig død. For det er visstnok umulig å finne ut om en tekst er generert av en chatbot. I akademia har det vært en stigende bekymring for hva dette skal bety for vårt virke.
Men hos oss er vi visst ikke like bekymret, kan det se ut som. For vi bare elsker ny teknologi. Vi var tidlig ute med å sette strøm på forelesningene med HiMoldeX, og vi har i de siste årene etablert rene nettbaserte studier i IT og logistikk som visstnok er ganske så lukrativt. Vi blir stadig oppfordret til å bruke vårt nye mediesentet som ble åpnet med brask og bram i vår, og nå står kunstig intelligens for tur.
Digitalisering er et tema som synes å stå høyt på agendaen ved Høgskolen i Molde også etter lederskiftet i sommer. KI var temaet på det første allmøtet etter rektorvalget, før vi ble invitert til et «inspirasjonsseminar» om fjernkurs på nett i november. På min avdeling ØS har vi nylig hatt samling hvor en stor del av programmet handlet digital kompetanse og digitalisering av undervisning, hvor viserektor for undervisning var invitert til å holde et innlegg om digitalisering og KI. I skrivende stund er alle ansatte blitt invitert til et lengre «fagseminar om digitalisering av utdanning» som oppvarming til årets julebord.
Så langt synes en å være mest opptatt av å se på den instrumentelle nytteverdien som ny teknologi representerer for ansatte og studenter. Det gjelder også bruken av KI-baserte verktøy. I en artikkel Panorama forteller viserektor for undervisning at KI er et «veldig godt verktøy» som hun selv bruker mye og stadig mer. Hun hevder at det er viktig at sensorer ikke ser på legal bruk av KI som noe problematisk ved hjemmeeksamen, og mener videre at det er viktig at studentene får god opplæring i bruk av KI. Siden dette kommer fra viserektor, er det nærliggende å tolke dette som høgskolens offisielle holdning til KI som dermed sender tydelige signaler til ansatte og studenter.
ChatGPT står for Chat Generative Pre-trained Transformer og er en avansert tekstgenereringsmodell utviklet av OpenAI. ChatGPT er en applikasjon som leveres av det amerikanske firmaet OpenAI. 49% av dette firmaet eies av Microsoft, vi vet ikke helt hvem som eier den andre halvdelen. Selv om OpenAI hevder å ha idealistiske hensikter med sitt produkt, vet vi ikke hva fremtiden vil bringe. Som kjent pågår det en intern strid i selskapet om hvilken retning det bør ta.
ChatGPT bruker maskinlæring og naturlig språkbehandling, og er trent på enorme mengder tekst og data ved hjelp av dype nevrale nettverk. Hva som kommer ut av ChatGPT, avhenger av hvilken informasjon som systemet har blitt matet og trent med, og det vet vi lite om. Det er videre opplagte utfordringer når det gjelder personvern, som Datatilsynet følger nøye med på, og det har allerede kommet opp flere saker når det gjelder rettighetsspørsmål.
Så hvordan kan dette være en teknologi som kan være en støtte i arbeidet til faglig ansatte og studenter? Det berettes om at ChatGPT kan fungere som et stort oppslagsverk hvor vi raskt kan få oversikt over et fagfelt. Den kan også fungere som en veileder og diskusjonspartner. Vi kan laste opp egne tekster som chatboten kan skrive om for deg (om en har betalingsversjonen). Undervisere kan be chatboten om å lage case eller oppgaver til studentene, og den kan også rette oppgaver for oss. Studentene og ansatte kan ellers bruke den til «å komme i gang» med å svare på en oppgave eller skrive en tekst. Chatboten kan bli vår samtalepartner og veileder når vi skal utvikle vår innsikt i et felt. Innen forskning er ChatGPT allerede anført som medforfatter på flere artikler. Mulighetene synes uendelige.
Felles for de praktiske eksemplene som vi har fått presentert, er at det skal gjøre livene til fagansatte og studenter lettere og mer spennende. For det er slitsomt og tidkrevende å lete etter litteratur, skrive gode tekster, veilede og lage og besvare oppgaver. Alt dette tunge kan chatboten hjelpe oss med. Det fremstår som fristende. Det er imidlertid mange utfordringer om en skal la KI-verktøy som ChatGPT ta en stor del av vårt arbeide. Jeg skal kort gå inn på to av dem her.
Den første utfordringen handler om kildekritikk. I akademisk arbeide baserer vi oss på litteratur som andre forskere har skrevet. Det tar tid å få oversikt over et fagområde, det er en nitidig prosess hvor en må finne, lese og forstå et stort antall artikler som velges ut. Litteraturgjennomganger (reviews) gjennomføres ved å anvende anerkjente og transparente metoder som kan etterprøves, og en viktig del av dette er å vurdere kildene kritisk. Vi er dessuten avhengige av tillit til det akademiske systemet, at andre forskere er etterrettelige, er uhildet og ikke jukser.
I motsetning til dette, er ikke ChatGPT transparent i den forstand at vi ikke vet hvilken informasjon og kunnskap chatboten baserer seg på. Flere har allerede rapportert om at chatboten kan gi direkte feil informasjon, og at den er «biased» når det gjelder kjønn, seksuell orientering, etnisitet og kultur. På enkelte områder mangler chatboten kunnskap, og da hallusinerer den, det vil si at den rett og slett bare finne på noe. Men den fremstår som overbevisende, og ofte kan feil og mangler være vanskelig å oppdage for andre enn dem som er svært godt bevandret i et spesifikt fagområde. Den grunnleggende utfordringen er at vi som brukere ikke vet noe om prosessen som ligger bak den teksten som chatboten gir oss, og hvilke kilder den henter informasjon fra. I verste fall kan en slik chatbot være en effektiv plagiatmaskin. Å oppfordre våre studenter til å bruke ChatGPT som kilde når de skal skrive akademiske tekster, er derfor svært problematisk.
Den andre utfordringen handler om intellektuell utvikling og læring. Et eksempel på dette er prosessen med å utvikle og formulere en tekst som står sentralt i mange fagområder. Å utvikle en tekst er i stor grad en intellektuell prosess hvor ny innsikt oppstår i samspillet mellom eksplisitt og taus kunnskap. Det for mange en tung og krevende prosess hvor en ofte kan kjenne på motstand. På samme måte er det intellektuelt krevende å lage en god eksamensoppgave, og for studentene også å svare på en oppgave. Vi lærer gjennom å utføre oppgaver som vi opplever som vanskelige, og som gjør at vi med tålmodighet må søke etter mening og svar, reflektere og tolke. Det kan føles som en lettelse å få et program til å lage en oppgave eller en tekst, men da omgår vi også selve læringsprosessen som handler om å oppnå innsikt og dypere forståelse i fagområdet. Om vår kjernevirksomhet er å utvikle kunnskap og læring gjennom tolkning og kritisk refleksjon, representerer slike verktøy en åpenbar trussel.
Argumentene en blir møtt med når en forsøker seg på slike kritiske refleksjoner er interessante. Felles for disse er at de i liten grad går noe særlig inn på hva jobben vår egentlig handler om, men heller fokuserer på effektivitet og ytre forhold. Når det gjelder det siste, er et vanlig argument er for eksempel at vi må forberede våre studenter på et arbeidsliv som en mener er, eller kommer til å bli, fylt av KI-verktøy. Et annet handler om den såkalte kalkulator-analogien, hvor en med dårlig skjult nedlandenhet overfor teknologiskeptikere viser til tidligere tiders motstand mot kalkulator i klasserommene og på eksamen. Så dumme de er, de som prøver å stå i mot teknologiens ustoppelige fremskritt.
Til forskjell fra tidligere tider, kan det virke som det nå er en stor andel ikke-teknologer som med entusiastisk og ukritisk energi hopper på med en gang en ny teknologi kommer rekende, og irriterer seg når noen prøver å advare om mulige konsenser. Jeg har grublet en del på hvorfor det så fort blir polarisert og hvorfor debattene synes å være preget av fravær av dypere refleksjon om hvordan teknologi kan påvirke våre liv og vårt virke.
Jeg tror det kan handle om at vi har begynt å se på teknologi som noe som har en verdi i seg selv, uavhengig av det meste, være seg arbeidsoppgaver eller kontekst. Og når mange nok er enige om at noe har en verdi i seg selv, er en ikke særlig interessert i å høre på motforestillinger, tvert om. Det som vi mener har verdi representerer jo noe vi tenker er viktig for oss, og som vi vil ha mer av. De teknologiskeptiske synes dermed å være motstandere av det gode i verden, og det kastes et mistenkelighetens slør over disse.
Det som oppfattes som verdifullt kan også brukes til å pynte seg med overfor andre, for å vise at en står for noe som er bra. Og da bør det helst være nytt og spennende. Da er det kanskje ikke så rart at noen ønsker å formidle at en bruker KI nesten hver dag og skulle ønske at ChatGPT fantes da en var student. Det er liksom ikke like kult å si at en googler hver dag, men det var det sikkert en gang.
For nesten tretti år siden var Hernes opptatt av at spesielt teknologer skulle ha med seg en dyp menneskelig dimensjon med i deres profesjonelle refleksjon. Den gang handlet det om hvordan teknologi kunne påvirke utviklingen av menneskeheten. KI har aktualisert hans refleksjon, ikke bare for teknologer, men for oss alle. KI griper enda dypere inn i vårt forhold til kunnskap og hva som vi mener er godt for menneskene. Det utfordrer maktforhold og demokrati, fordi fungerende demokrati er avhengig av innbyggeres kunnskap.
KI-verktøy som ChatGPT utfordrer vår rolle som forvalter av kunnskap og kritisk tenkning. Om vi ikke tar dette på alvor, og i stedet fokuserer på hvor lekende og lett alt blir med denne teknologien, har vi sviktet vår rolle som akademiske institusjon.
–> Elin Mordal, Arve Hjelseth, Lise Lillebrygfjeld Halse og Mads Langnes skriver fast på fredager i Panorama.