– De ansatte kommer til å bruke AI uansett hva du sier

Om du som bedriftsleder forbyr AI på jobben, kan du være sikker på to ting, ifølge produktsjef Magnus Revang hos Openstream.ai. De kommer ikke til å spørre deg om lov neste gang. Og de kommer til å bruke AI-verktøy uansett.

– Se på det som da internett først ble allemannseie.

Han har vært i teknologibobler før, Magnus Revang. Første gang var da internett tok over verden på 1990-tallet. Andre gang da apper på mobiltelefoner slo gjennom den teknologiske lydmuren i 2008 – og endret spillereglene for hvordan privatpersoner og selskaper snakker med hverandre. Ja, som forandret kommunikasjon på tvers av de fleste tenkelige grenser.

Og nå altså igjen. Denne gangen er det AI. Selv er Magnus Revang produktsjef for AI-utvikling i amerikanske Openstream.ai – og det spørs, da, om ikke denne bobla representerer et enda større skifte i det moderne menneskes tilværelse enn alle boblene som har gått forut. For hvem vet hva som venter oss?

– Det er ingen tvil om at AI endrer brukernes oppførsel – og samtidig mulighetene for bedrifter og ansatte. Norske bedrifter trenger ikke lage modeller selv eller befinne seg på the bleeding edge når det gjelder AI. Men de er nødt til å følge med i timen.

For eksempel hvilke tjenester som blir tilgjengelige. Hva de er i stand til. Og hvordan det henger sammen med rettigheter til innhold, til lover og regler, til GDPR – og moralske dilemmaer. For mens vi venter på statlige og internasjonale reguleringer og prominente forskere har bedt om pause og betenkningstid, er det én ting norske bedrifter bør gjøre. – Mye handler om etikk her. Derfor er det smart å lage noen etiske retningslinjer som gjelder firmaet. For eksempel når det gjelder bloggposter eller SoMe-innlegg. Skal det være slik at det er ok å be om at en illustrasjon skal ligne noe en fotograf eller artist har laget, eller skal det ikke?

– Det høres ut som det er klokt å være føre var?

– Ja. Selv bruker jeg aldri kunstnere i mine instrukser. Men så kan man selvfølgelig si: På kunstakademier verden rundt er det mange av studentene som lar seg inspirere av Picasso. Er det annerledes når en AI-modell lar seg inspirere, enn når det er et menneske som gjør det?

Norske bedrifter bør altså følge med på hva som skjer. Og ikke være redde for å eksperimentere. Men uansett hva, er det én ting bedriftsledere bør ha klart for seg.

– Vit at de ansatte kommer til å bruke AI. Hvis vi tar ChatGPT som eksempel, kan man spørre seg om de ansatte skal bruke gratisversjonen, eller om man skal investere i enterprise-modellen, der man får litt mer kontroll.

 

Ting tar fortsatt tid i en boble

Revang understreker gang på gang at vi befinner oss midt i en boble. Selv sitter han og kollegaene i Openstream.ai i bresjen og utvikler egne modeller, og utviklingen på de offentlig tilgjengelige AI-tjenestene går med gigabitahastighet.

25. mai er Magnus Revang en av foredragsholderne på et lederseminar på Dyna fyr. Her snakker han og andre eksperter om AI-mulighetene for norske bedriftsledere. 

– Det vi kan ha godt av å huske, er at det faktisk tar lang tid før ny teknologi finner en kommersiell form. Amazon ble stiftet i 1994, omtrent samtidig som det var OL på Lillehammer. Nå er vi nesten 30 år senere, og e-handel har fortsatt under 20 prosent av markedsandelen innenfor varehandel. Det tar altså noen år før verktøyene blir gode nok.

Du kan ikke unngå at de ansatte bruker AI. Derfor må du som bedriftseier prøve å være på toppen av hvordan de bruker det.

– MAGNUS REVANG

Magnus Revang sier at selv om noen av AI-verktøyene som allerede er kommet er veldig bra, er det ikke så dumt å se ting litt an.

– De som tar i bruk ny teknologi veldig fort, er gjerne de som også snakker høyest om fordelene. Men det finnes fordeler og ulemper ved AI-verktøyene, og det er mye synsing i markedet. Denne støyen er kanskje den største ulempen.

– Du mener norske bedrifter kan ta seg en pust i bakken?

– Det beste rådet: Du kan ikke unngå at de ansatte kommer til å bruke AI. Derfor må du som bedriftseier prøve å være på toppen av hvordan de bruker det. Og ha retningslinjer på plass for den bruken. Hvis du sier nei til en ansatt som kommer og sier at dette verktøyet kan spare meg for én time, kan du være sikker på én ting: De kommer aldri til å dele slike forslag med deg igjen. Og de kommer mest sannsynlig bare til å ta verktøyene i bruk uansett.

Revang snakker igjen om tiden. For hvor lenge har det fantes elbiler? Lenge. Hvor lang tid tok det før «alle» hadde elbil? Lenge.

– Vi tar i bruk teknologi tregere enn den blir tilgjengelig. Den største feilen vi kan gjøre, er å glemme at det er slik. Det tar lang tid før oppførsel og samfunn endrer seg. Teknologi blir tilgjengelig veldig fort, og det kan være skremmende. Men den spres tregt ut i samfunnet. Det gir oss heldigvis sjansen til å rette opp og justere underveis.

Sjefens nye bestevenn – eller den ansattes?

Tidsbesparelser på 10-50 prosent. Effektivitetsboost på 1-4 timer. Hver dag. Er det rart mange snakker om en slags arbeidslivsrevolusjon? Men vent litt, hva er baksiden av medaljen når ansatte bruker ChatGPT og andre AI-verktøy for å bli helter på kontoret?

– Overalt kan man spare flere timer. Tenk deg disposisjoner, markedsføringstekster, og så videre. Her er det betydelig tid å spare. Problemet er: Kan bedrifter bruke det som lages ved hjelp av AI? Overholder det bestemmelsene i GDPR, for eksempel? Og hva med rettigheter i forhold til bilder laget av MidJourney på bakgrunn av et skikkelig bra prompt som ChatGPT har laget – et prompt som eksplisitt ber MidJourney la seg inspirere av en bestemt fotograf? Skal fotografen få betalt? Og hva med personvernet? Mange bedrifter er redde for å trå feil her.

De fleste som jobber med AI synes at regulering er bra. Jeg også! Vi befinner oss i et landskap der grensene ikke er gått opp ennå.

– MAGNUS REVANG

Magnus Revang snakker om kompleksiteten ved å lage og implementere retningslinjer for bruk av AI. Han mener norske myndigheter sover i timen. Og selv om EU arbeider med et direktiv, går den teknologiske utviklingen ekstremt raskt. Så raskt at lovgivningen halser etter.

– Men om en bedrift blokkerer tilgang til AI-verktøy på bedriftsnivå, er det én ting vi kan være sikre på. Det er at når den ansatte sitter der klokka 17-18 og må ha noe klart, da har den ansatte plutselig fått et valg. Skal han sitte der hele natten og jobbe – eller skal han få ChatGPT til å fikse det på ti minutter? De ansatte kommer til å bestemme bruksområdene for AI uansett hva bedriften sier.

Da blir spørsmålet: Hvordan skal bedriften forholde seg til dette? For om det er et forbud mot AI-verktøy på jobbutstyret, har den ansatte tilgang til verktøyene både på mobil og privat PC.

– Den eneste måten å få til dette, er at bedriften tar ansvar og spør seg: Hvordan kan vi bruke AI på riktig måte? Det er den store utfordringen. I bunn og grunn havner bedrifter i en situasjon der de må finne ut hvordan de skal bruke det, hvor de skal bruke det – og hvordan de kan bevare en viss kontroll.

– Men slik situasjonen er nå, er det ingen som vokter over utviklingen, egentlig?

– Nei, det finnes faktisk ingen definitive grenser for når vi bør tenke oss om to ganger. De fleste som jobber med AI synes at regulering er bra. Jeg også! Vi befinner oss i et landskap der grensene ikke er gått opp ennå. Det er på mange måter et rottereir.

 

En ekstremt kraftig språkmodell trent på forferdelig mye data

For mens Foundation Models har vært på banen en stund, er det først med ChatGPT at noe helt nytt har endret banen. Og hva er det egentlig som har skjedd?

– Først og fremst er ChatGPT en modell som er trent på forferdelig mye data, sier Magnus Revang.

– Hvis du tenker deg poenget med en slik stor modell som forholdet mellom input og output, er vi nødt til å forstå at med ChatGPT er det 175 milliarder noder mellom input og output, og den er trent på terabyte med tekstlig data. Og tekst tar ikke mye plass! Målet er å få til et mønster. Det vil si: Den er en kjempestor modell som forutsier neste ord i en sekvens.

Her er det bare å trekke pusten og finne fram til sin egen, indre Einstein for å henge med. For der tidligere modeller riktignok kunne gå noen skritt tilbake for å forutsi hva som ville komme som neste, har ChatGPT helt andre muskler. Der ChatGPT-3 kunne gå tilbake til de 8000 forutgående ordene, kan ChatGPT-4 gå tilbake til de 32 000 forutgående ordene. Revang sier at han allerede har lest om tilsvarende modeller som kan gå to millioner ord tilbake.

Men hva betyr det?

– Alle ord blir representert som en node med tusenvis av koordinater. De avstandene som finnes mellom ord, endrer seg ut fra de tidligere ordene i sekvensen. Det betyr at hvis ordene du legger inn er «kongelig» + «mannlig» + «England», så er Charles et ganske sannsynlig resultat. Men hvis du i tillegg legger til et årstall, så kan svaret bli et helt annet. Spørsmålet er: hvordan kan vi få en Eminem-sang om katter ut fra dette, som høres ut som Eminem? Jo: Mengden data og mengden av parametere. Resultatet er emergent behavior.

– Som er?

– Oppførsel i systemet som ikke kan forklares ved å se på de enkelte bestanddelene i systemet.

Det er her det begynner å lugge litt i lekfolks hjerner. Og i eksperthjerner! Det leder dessuten til en verkebyll av et spørsmål: Hvordan kan vi etterprøve resultatene ChatGPT og lignende modeller kommer fram til? Mulighetene den har til å komme fram til ting, er så kompliserte at det ikke akkurat legger igjen brødsmuler vi mennesker kan følge, er det ikke slik?

– Det er riktig. Det er ikke veldig forklarbart. Men du kan jo be modellen forklare seg! Spørsmålet er hva en slik forklaring er verdt. Hvis jeg ber et menneske forklare hvordan det kom fram til et eller annet, har jeg heller ingen garanti for at forklaringen faktisk er riktig. Var det det som skjedde – eller er det snakk om en emosjonell etterrasjonalisering av hendelsesforløpet? Det er et åpent spørsmål.

Hva er egentlig intelligens?

Dypt inne i forsøket på å forklare hvordan ChatGPT virker, begynner Magnus Revang å smile bredt.

– Jeg mener at vi lærer vel så mye om hvordan vi mennesker er i denne prosessen med AI. Vi har mange forskjellige måter å tenke på. Som individer er vi gode og dårlige til ulike ting. Noen av oss tenker kreativt, mens andre tenker logisk. Og så har vi naturligvis mulighet til å gjette på ting. Med andre ord: Vi bruker mange måter å angripe et problem på, for på en måte å finne fram til en slags konsensus i hjernen.

– Vi mennesker forstår intelligens bare gjennom filteret av menneskelig intelligens. Vi kan ikke forstå noe på annet vis. AI derimot, har ingen motivasjon, ikke noe følelsesliv, ingen behov eller ønsker.

Nå nærmer vi oss faktisk den største forskjellen på forskjellen på menneskelig og kunstig intelligens, ifølge Revang.

– Generativ AI har én strategi. Én eneste. Den gjetter neste ord!

– Til gjengjeld har den et ganske solid utgangspunkt for å klare det?

– Å ja, den er sannsynligvis allerede tusen ganger bedre til dette enn et menneske. Men andre ganger er den håpløs sammenlignet med menneskelig intelligens. Likevel har det vært veldig interessant å se de siste månedene hvor mange utfordringer som faktisk kan løses på bare denne ene måten å «tenke».

I motsetning til oss, har AI ingen motivasjon, ikke noe følelsesliv, ingen behov eller ønsker.           

– MAGNUS REVANG

Spoler vi bare ett halvår tilbake, var det bare et fåtall som faktisk hadde kjennskap til disse modellene. Så ble ChatGPT sluppet fri i gratis prøvemodell, og hele internett tok fyr. Ingen teknologi har hittil hatt en like eksplosiv vekst i antallet brukere som ChatGPT hadde i dagene og ukene etter at den ble lansert.

Hva var det egentlig som skjedde?

– Forskjellen på de tidlige Foundation Models-ene og ChatGPT handler om at de som lagde den la til et treningslag på toppen av en språkmodell, sier Magnus Revang.

– Det vil si at de trente den til å følge instruksjoner. Da skjedde det noe. Det handlet ikke lenger om å gjette ord, men om å gi instrukser og levere svar. Det endret hele bruksområdet til modellen. Det er av samme grunn det er håpløst å tenke på en generativ AI som en erstatning for en søkemotor. Den er noe helt annet.

Kunsten å spørre bra

Magnus Revang poengterer at som alltid når ny teknologi entrer banen, er det mye bråk og støy. Noen er raskt ute med å ta patent på hvordan den kan brukes, mens de egentlig kanskje ikke har noe særlig dybdegående forståelse for mulighetene som finnes.

Om du har tatt turen innom LinkedIn de siste dagene, kan du ikke ha unngått å se alle myriadene av slides som forklarer deg akkurat hva slags AI-verktøy du bør bruke til dette og hint. Revang sier at noe av det er bra, men at det samtidig er mye desinformasjon.

– Prompt engineering, altså at man finner de beste måtene å utforme instruksjonene som fores inn i de store modellene, betyr at man får de beste resultatene. Man kan lage maler på denne måten, og få enda bedre resultater. Det er også mulig å kjøre ett prompt inn i et nytt, og så videre.

– Nå begynner det å kime noen advarselsklokker?

– Ja, det er her frykten kommer inn. For når oppstår det autonomi i dette? Her skal vi være glade for at ChatGPT heldigvis ikke er så god på å lage planer.

Men det finnes nok av nyhetsartikler om folk som har fått modellen til å gå stikk mot sine egne begrensninger, til å overkjøre sperrene den har for diskriminerende og/eller voldelig innhold. For eksempel ved å be den lage en oppskrift på hvordan en AI ville ha gått fram for å ta over verden. Det kalles narrativ manipulasjon.

– Når du skriver inn et prompt, får ChatGPT også tilsendt annen informasjon. Nemlig: retningslinjene den opererer med. Men disse guardrailene handler gjerne om den første instruksen som blir gitt. Og retningslinjene kan negeres. Mange har brukt mye tid på å jailbreake ChatGPT.

– Hva er det verste som kan skje?

– Det kommer an på hva du kobler modellen på. Feilinformasjon, fake news. Jeg kunne for eksempel ta hele Dagbladet.no, klone det – og få alle artikler til å fronte et helt spesifikt verdensbilde. Hvis det i sin tur ble indeksert av Google og på den måten kom inn i underlaget modellen bruker, kan jeg faktisk nudge verden gjennom modellen.

– Men opererer ikke ChatGPT i en trygg sandkasse?

– Da har du ikke hørt om plugins, sier Magnus Revang.

 

Farvel til verden som vi kjenner den?

For å joda: En kraftig språkmodell kan koble seg til internett hvis du har en plugin som gjør det mulig. Farvel, trygge sandkasse!

– Du kan også laste opp egne, interne dokumenter og skrive i instruksene: «Kan du svare på x og y ved hjelp av dette materialet?» Det kan den. Det er en rettmessig bekymring for å det er mulig å utradere en språkmodells svakheter ved å koble den sammen med annen AI.

– Som hva da?

– Symbolsk AI. Det er en 30-40 år gammel måte å håndtere logikk på. Det handler rett og slett om kunstig intelligens som rent komputasjonsmessig er trent på logiske predikater. For eksempel rengjøringsroboten som planlegger hvilken rute den skal kjøre for å vaske kjøpesenteret. Den store frykten handler om å koble slike sammen.

Revang eksemplifiserer slik: Hvis han spør ChatGPT om hvordan han må gå fram for å hacke Pentagon, får han – hvis han har jailbreaket modellen – en liste. Hvis han kan fore denne listen til en symbolsk AI, som igjen er koblet til ulike verktøy, vel, da kan han kanskje-kanskje ikke faktisk klare å hacke seg inn i Pentagon.

– Frykten handler om at det skal være mulig å lage autonome systemer som kan brukes på en farlig måte. ChatGPT kan brukes uetisk, til fake news. Det er ille nok, men det er tross alt begrenset til tekst. Problemet er hvis informasjonen kobles til andre systemer.

– Så vi skal ikke være redd for at ChatGPT blir destruktiv?

– Du kan ikke endre hvordan nettverket ser ut og hva slags evner ChatGPT har. Du får ikke opp nye egenskaper. Du får ikke plutselig andre typer kunstig intelligens. Den prøver å lure deg til å tro den er intelligent. Det første som ryker i denne situasjonen er horoskopskribentene. Men modellen i seg selv løper ikke løpsk.

Frykten for at AI tar jobbene våre

Like fullt er det mange som er redde for hva som venter. Ikke minst på arbeidsplasser både i Norge og globalt. Eller sagt på en annen måte: Når tar AI jobben min?

– Ny teknologi har det med å skape flere jobber enn den tar vekk, slår Magnus Revang fast.

–  Det er sant, selv om det for enkeltindivider ikke nødvendigvis er slik. Jobber blir ikke borte, men arbeidsoppgaver forsvinner. I bunn og grunn blir nok fremtidens arbeidsplasser slik: Alle blir mellomledere for en gjeng dumme AI-er! Og når det høres morsomt ut, er det bare fordi det er sant.

– Men hvordan kan en bedriftseier forholde seg til dette helt konkret?– Du kan ta samme problemstilling som når det gjelder all automatisering: Tilgodeser den eller tilgodeser den ikke de ansatte? Hvis automatiseringen gir tidsbesparelser for den ansatte, er det bra. Bedrifter som gjør det slik, vil stå bedre rustet. Jeg er stor motstander av rutinearbeid, for eksempel. Jeg vil helst jobbe med noe jeg kan lære av. Sånn sett er AI fantastisk. Ideene er fortsatt mine, men rutinene som kreves før de kan settes ut i livet, tar AI seg av. Såkornet er fra mennesket. AI venter bare på instrukser! Vi mennesker har en egen evne til å finne løsninger.

Spørsmålet om AI vil endre måten vi verdsetter ulike jobber på, kan besvares med et rungende ja!

– MAGNUS REVANG

Magnus Revang peker på at vi vil komme til å se endringer i hvordan vi verdsetter ulike oppgaver i arbeidslivet fremover. At yrker vi inntil nå har satt høyt – der lønnen er tilsvarende høy – ikke nødvendigvis går en strålende fremtid i møte.

– Ta advokater som eksempel. Jus er et av de første stedene AI har vist seg å være veldig brukbart. Hvorfor? Fordi jus er et veldig lite ambivalent subsett av språket. Advokater får også veldig godt betalt. Kanskje for godt i forhold til den jobben de faktisk gjør. For her viser de store språkmodellene seg å være veldig gode. Spørsmålet om AI vil endre måten vi verdsetter ulike jobber på, kan besvares med et rungende ja!

Poenget her er at yrker og arbeidsoppgaver vi i dag betaler dyrt for, kanskje blir verdsatt annerledes fremover. Og tilsvarende med yrker som i dag har lavere lønn.

– Kanskje blir man som advokat mer utsatt enn andre. De store språkmodellene lager en ny kvalitetsstandard. Hvis jeg som menneske skal konkurrere, må jeg være bedre. Og da er spørsmålet: Hvor stort er markedet for de som trenger noen som er bedre? Slike spørsmål gjør det viktig for bedrifter å ta vare på kunnskapen de har, og ta vare på de mest kompetente ansatte. AI kan kanskje erstatte 90 prosent av oppgavene i visse yrker, men noen ganger trenger vi de siste ti prosentene.

– Du har sagt at du hverken er optimist eller pessimist når det gjelder AI-utviklingen?

– Ja, jeg er realist. Vi må regulere visse ting, men ånden er ute av flasken. Det er mye her vi ikke kan gjøre noe med. Når det er sagt, har jeg skrevet under på en underskriftskampanje fra EU som vil opprette et slags CERN for AI. Fordi vi trenger et akademisk motstykke til den kommersielle AI-utviklingen. Hvorfor? Vel. Da apper på mobilen revolusjonerte hvordan vi bruker mobiler, så vi at de smarteste utviklerhodene i verden endte opp med å finne ut hvordan de best skulle levere annonser. Jeg er redd for at det samme skal skje med de beste AI-hodene. Det ville være trist. Vi blir nødt til å snakke om realitetene som venter oss, ikke bare hypen.

Revang snakker om fri vilje, om rasjonalitet versus følelser, og ender opp med å si at når vi mennesker ikke forstår noe, er vi genetisk programmert til enten å frykte – eller slåss.

– Når det gjelder AI er det mange som reagerer med frykt. Løsningen på det, er å bruke fornuften. Ja, dette er på mange måter internett i 1993 om igjen. Det er apper i 2008. Det eneste valget vi reelt har, er å prøve å forstå hva som skjer når det gjelder AI. Vi må tørre å ta ansvaret for veien videre. Tørre å konfrontere usikkerheten vår. Det gjør vi gjennom å forstå.

– Kanskje vi kan be AI om hjelp til det?

– Selvsagt!

 

På lederseminar på Dyna fyr 25. mai snakket Magnus Revang blant annet om dette:

• Hvilke muligheter finnes for norske bedrifter når det gjelder AI?

• Er det grunn til å være optimistisk eller pessimistisk når det gjelder hva AI kommer til å betyr for måten norske bedrifter jobber på? 

• Hva snakker vi om når vi snakker om (kunstig) intelligens? 

• Hvilke lover og regler finnes – og hvilke bør finnes – når det gjelder AI?

• Hva bør norske bedriftseiere gjøre når en ansatt kommer med et forslag til en oppgave som kan løses ved hjelp av AI? 

• Og hva bør en norsk leder absolutt ikke gjøre? 

• Hvor begynner man, om man som norsk bedriftseier vil i gang med AI?