Stor språkmodell

En **stor språkmodell** (engelsk: *large language model*, LLM) er en avansert maskinlæringsmodell som er spesialisert på å forstå og generere naturlig språk.

En klassisk språkmodell bruker statistikk for å gjette hva et ord er basert på tidligere ord. I en stor språkmodell brukes et nevralt nettverk som er trent opp på forhånd på kjente data, kalt *generative pre-trained transformer* (GPT).

En stor språkmodell bruker veldig mye tekst for å trene opp det nevrale nettverket, og «stor» peker på antallet parametere og omfanget av data modellen er trent på, gjerne  milliarder av ord. Store nevrale nettverk er for kompliserte til at noen kan forutsi hva som skjer, men store språkmodeller sammen med generativ kunstig intelligens (KI), kan likevel gi gode svar.

## Historie
På 1990-tallet la IBM grunnlaget for konstruksjonsgrammatikk (CxG) for å bruke det til å oversette tekster. Opp til en milliard ord ble brukt til opplæring, og mange forskjellige metoder ble prøvd for å unngå misforståelser og tvetydigheter.

Fra 2012 ble nevrale nettverk mer brukt, og nett med tilbakekoblinger, såkalt «recurrent neural networks» viste seg gode på f.eks. å gjenkjenne håndskrift.

I 2017 kom artikkelen «Attention is all you need» som viste at et flytende fokus på de ordene som til en hver tid ble mest brukt var effektivt. Artikkelen laget en modell «Transformer» som kun bruker forrige beregning i det nevrale nettverket sammen med den neste, uten noen tilbakekoblinger av det endelige svaret, og viste at denne metoden lærte mye raskere og oversatt engelsk til tysk mye bedre enn tidligere modeller.

I 2018 laget OpenAi GPT-1, (Generative Pre-trained Transformer) en stor språkmodell som benyttet transformer-arkitekturen. Året etter kom GPT-2, som fikk mye oppmerksomhet ettersom Elon Musk og Sam Altman uttalte at den hadde stort potensiale for ondsinnet bruk. I 2022 kom GPT-3, og i 2024 GPT-4. Det var likevel chatboten ChatGPT, som kom i 2022 basert på GPT-3.5, som gjorde massene klar over hva store språkmodeller kunne brukes til. Etter ChatGPT ble mange store språkmodeller tilgjengelig for flere, bl.a. vitenskapsorienterte BLLOM, LlaMA fra Meta og franske Mistral 7B. I januar 2025 kom kinesiske DeepSeek som gav svært gode resultater med mye lavere kostnader. DeepSeek bruker åpen vekting av parametrene i sin kunstige intelligens.

## Arkitektur
Store språkmodeller er nesten utelukkende basert på transformer-arkitekturen. Den sentrale mekanismen i denne er *self-attention*, en metode der hver token i en sekvens beregner en vektet sum av alle andre tokens i samme sekvens. Vektingen styres av innlærte projeksjoner kalt *queries*, *keys* og *values*, som avgjør hvor mye informasjon hver token skal hente fra de øvrige. Denne mekanismen gjør det mulig å fange opp avhengigheter mellom ord uavhengig av avstanden mellom dem i teksten, noe rekurrente nettverk har problemer med når sekvensene blir lange.

Ettersom self-attention behandler alle tokens samtidig, har arkitekturen ingen innebygd informasjon om ordrekkefølgen. For å ivareta rekkefølgen får derfor hver token lagt til en *posisjonskoding* (engelsk: *positional encoding*) før den sendes inn i nettverket. Transformeren bruker også flere parallelle self-attention-funksjoner, kalt *multi-head attention* (flerhodet oppmerksomhet), der hvert «hode» kan spesialisere seg på ulike typer sammenhenger mellom tokens.

Den opprinnelige arkitekturen bestod av en *enkoder* som leser hele inngangssekvensen samtidig, og en *dekoder* som genererer utdata én token om gangen. Senere modeller bruker ofte bare én av disse delene: BERT (*Bidirectional Encoder Representations from Transformers*) bruker kun enkoderen, mens GPT-modellene kun bruker dekoderen.

En praktisk fordel med transformerarkitekturen er at self-attention kan beregnes parallelt for alle posisjoner i en sekvens, i motsetning til rekurrente nettverk der hvert tidssteg avhenger av det forrige. Dette gjør trening på store datamengder vesentlig raskere med moderne maskinvare.

## Trening

Nevrale nett må trenes opp. Først trengs en kilde med korrekt rettskriving og grammatikk. Så må setningene deles opp i «tokens» som kan være ord, tegn eller f.eks. endinger som gjentas ofte i en tekst. Deretter starter treningen, som betyr at parametrene i hver node av det nevrale nettverket endres som følge av teksten som sendes inn og modellen som brukes, f.eks. transformer. Når modellen har lest gjennom hele kilden testes modellen, og på et spørsmål bør den da svare det mest sannsynlige ut fra treningen. 

Etter den helt grunnleggende opplæringen starter den mer detaljerte opplæringen. Flere språkmodeller har hatt «helpful, honest and harmless» (HHH) som et prinsipp, men å trene opp nettverket til å gjøre etiske valg krever kontinuerlig tilpasning.

En metode er at et menneske gir rangerte tilbakemeldinger, og at nettverket får en slags belønning for gode svar, men menneskelig rangering har vist seg vanskelig. En mer effektiv metode kan være å sammenligne tekster fra to nevrale nettverk og si hvilken som er best. 

Alternativt kan noen parametere fryses slik at de ikke lenger kan endres. I et nettverk med milliarder av parametere der alle kan endre seg er det dyrt og vanskelig å fin-tune modellene. «Proximal policy optimization» (PPO) er en metode som begrenser hvor mye resultatet kan variere som følge av nye data. En annen metode er «skuespiller/kritiker-metoden» (A3C), der skuespilleren har fokus på hva som bør gjøres, mens kritikeren har fokus på resultatet. Ved å la både skuespillere og kritikere se på hva som skjer og gi tilbakemelding på ulike tidspunkter (asynkron) har metoden vist seg svært effektiv til trening f.eks. på dataspill.

### Utfordringer
En artikkel publisert i Nature viser at dersom innholdet modellen trenes mot også er skrevet av en kunstig intelligens, vil det oppstå irreversible defekter i resultatet, deler av det originale innholdet kan forsvinne og modellen vil over tid kunne kollapse. I store språkmodeller, som ikke lett kan skille mellom data skrevet av mennesker eller AI, er denne effekten uunngåelig. Effekten fører til at noen deler av et innhold blir ekstra fremhevet, at uvanlige data undertrykkes, og tilleggsinformasjon som ikke har noe med saken å gjøre henges på. Modellene blir altså for skråsikre (*low perplexity*) og for lite usikker om den trenes mot egne data. 

Det er også mulig å målrettet «forgifte» store språkmodeller slik at svarene styres i en bestemt retning, men det er vanskelig. 

## Oppgaveløsning
En stor språkmodell kan ikke løse oppgaver på egenhånd, men ettersom modellene har potensiale for menneskelignende intelligens, forskes det på muligheten for å la KI basert på store språkmodeller ta selvstendige avgjørelser. 

I 2025 ble språkmodeller ansett for å være nyttige innenfor flere fagfelt: 

* Psykologi - Språkmodeller åpner for simulerte eksperimenter.
* Statsvitenskap - Språkmodeller klarer å kjenne igjen ideologi og forutsi stemmemønstre.
* Sosiologi - Eksperimenter som ellers er uetiske, f.eks. spredning av falsk informasjon, kan simuleres ved bruk av språkmodeller.
* Jus - Språkmodeller kan bidra til bedre dommer. ChatLaw, for advokater, svarer på lov-spørsmål som er utenfor advokatens ekspertise. Hallusinering er et stort potensielt problem og har derfor ekstra fokus i modellen.
* Naturvitenskap - Språkmodeller kan lage gode sammendrag, både av artikler som må leses og av artikler som skrives. KI basert på store språkmodeller kan sortere og organisere data og kan brukes f.eks. til å forutsi om en blanding av kjemikalier kan være farlig. Verktøy som ChemCrow kan også brukes til å planlegge et eksperiment.
* Pedagogikk - Språkmodeller kan brukes til å løse matematikkproblemer og samtidig redegjør for metoden på en enkel måte. Verktøy som EduChat kan brukes til dialog der studenter eller lærere kan stille åpne spørsmål.
* Ingeniørfag - Programmering er noe språkmodell baserte verktøy er gode til. Både skriving, testing og feilsøking av kode gjøres raskt og effektivt av kunstig intelligens.
* Robotikk er et fagfelt der språkmodeller gjør det mulig å snakke til en robot slik at den forstår hva den skal gjøre. AutoGPT er et verktøy for automasjon, der roboten selv finner oppgaver og deler disse opp i deloppgaver roboten selv kan løse. I automatiske systemer er hallusinering et stort potensielt problem og kan føre til skade på utstyr eller miljø. Slike systemer kan også med vilje trenes opp for å skade, så alternative sikkerhetssystemer er nødvendige.

## Referanser