Saving weights and logs of step 5000 - epoch 0

README.md

@@ -63,6 +63,7 @@ The following hyperparameters were used during training:
 | step | validation_nst_loss | train_loss | validation_nst_wer | validation_nst_cer | validation_nst_exact_wer | validation_nst_exact_cer | validation_clean_stortinget_no_loss | validation_clean_stortinget_no_wer | validation_clean_stortinget_no_cer | validation_clean_stortinget_no_exact_wer | validation_clean_stortinget_no_exact_cer |
 |:----:|:-------------------:|:----------:|:------------------:|:------------------:|:------------------------:|:------------------------:|:-----------------------------------:|:----------------------------------:|:----------------------------------:|:----------------------------------------:|:----------------------------------------:|
 | 0    | 0.4271              | 0.9562     | 2.1721             | 0.6246             | 2.7056                   | 0.7070                   | 0.6866                              | 8.5836                             | 5.4517                             | 11.4126                                  | 5.8853                                   |
+| 5000 | 0.4400              | 0.5815     | 2.6621             | 0.7765             | 3.1629                   | 0.8526                   | 0.7085                              | 9.1000                             | 5.7626                             | 12.1172                                  | 6.2354                                   |
 
 
 ### Framework versions

flax_model.msgpack

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:68a5e1ce485ee6edc6693ae5ac280b2e4a2fd1c8b51c687e5f0d096714dc6501
+oid sha256:14acedaf9989198a0739bcd950ddbb4a6727afce8a47d78dc18e5dfc7a5818b9
 size 3087027463

predictions/validation_clean_stortinget_no/step_0.md

@@ -1,4 +1,4 @@
-[Step 0](step_0.md)
+[Step 0](step_0.md) | [Step 5000](step_5000.md)
 
 | STEP| loss | wer |cer|
 | ---| --- | --- |--- |

predictions/validation_nst/step_0.md

@@ -1,4 +1,4 @@
-[Step 0](step_0.md)
+[Step 0](step_0.md) | [Step 5000](step_5000.md)
 
 | STEP| loss | wer |cer|
 | ---| --- | --- |--- |

predictions/validation_nst/step_5000.md

@@ -0,0 +1,108 @@
+[Step 0](step_0.md) | [Step 5000](step_5000.md)
+
+| STEP| loss | wer |cer|
+| ---| --- | --- |--- |
+| **5000**| 0.440 | 2.662 |0.777 |
+
+| target                                                                                                                                         | prediction                                                                                                                                     |
+|:-----------------------------------------------------------------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------------------|
+| Jeg kan løpe av **meg** ergrelser og frustrasjoner\.                                                                                           | Jeg kan løpe av **med** ergrelser og frustrasjoner\.                                                                                           |
+| Det de ønsker er mer tid\.                                                                                                                     | Det de ønsker**\,** er mer tid\.                                                                                                               |
+| Hun lovte å komme tilbake til spørsmålet i en stortingsmelding som hennes departement arbeider med\.                                           | Hun lovte å komme tilbake til spørsmålet i en stortingsmelding som hennes departement arbeider med\.                                           |
+| Problemene med å organisere seg kommer klart frem i antallet **meglinger** for å få tariffavtaler\.                                            | Problemene med å organisere seg kommer klart frem i antallet **meklinger** for å få tariffavtaler\.                                            |
+| Han la fra seg brød og ost i grotten og fulgte etter\.                                                                                         | Han la fra seg brød og ost i grotten og fulgte etter\.                                                                                         |
+| Veggene og dansegulvet vil være dekorert med karibiske effekter\.                                                                              | Veggene og dansegulvet vil være dekorert med karibiske effekter\.                                                                              |
+| Vi håper selvfølgelig at vi skal greie å skaffe alle som har søkt om det\, et tilrettelagt skoletilbud\.                                       | Vi håper selvfølgelig at vi skal greie å skaffe alle som har søkt om det\, et tilrettelagt skoletilbud\.                                       |
+| Datatilsynet er et forvaltningsorgan som skal påse at prosjektet ikke er i strid med personregisterloven\.                                     | Datatilsynet er et forvaltningsorgan som skal påse at prosjektet ikke er i strid med personregisterloven\.                                     |
+| Ikke det at vi har vunnet noen gang\.                                                                                                          | Ikke det at vi har vunnet noen gang\.                                                                                                          |
+| Du mener at svært mange tar feil\.                                                                                                             | Du mener at svært mange tar feil\.                                                                                                             |
+| Leserne får møte forskjellige komponister og deres mest kjente verker\.                                                                        | Leserne får møte forskjellige komponister og deres mest kjente verker\.                                                                        |
+| Luseegg er omtrent **en** millimeter lange og kan forveksles med flass\, men sitter bedre fast\.                                               | Luseegg er omtrent **én** millimeter lange og kan forveksles med flass\, men sitter bedre fast\.                                               |
+| Om vinteren måtte snøen måkes vekk fra isflaten\.                                                                                              | Om vinteren måtte snøen måkes vekk fra isflaten\.                                                                                              |
+| Hun hadde laget et ildsted mellom tre steiner\.                                                                                                | Hun hadde laget et ildsted mellom tre steiner\.                                                                                                |
+| Flere av sangene er skrevet for mange år siden**\,** og er preget av det\.                                                                     | Flere av sangene er skrevet for mange år siden og er preget av det\.                                                                           |
+| Verkene benyttes hovedsakelig til utsmykking av egne eiendommer\.                                                                              | Verkene benyttes hovedsakelig til utsmykking av egne eiendommer\.                                                                              |
+| Informasjon er viktig for å fjerne rasisme\.                                                                                                   | Informasjon er viktig for å fjerne rasisme\.                                                                                                   |
+| Ingen personer kom til skade\, men bilene ble påført **endel** skader\.                                                                        | Ingen personer kom til skade\, men bilene ble påført **en** **del** skader\.                                                                   |
+| Jeg håper ikke det blir **tyve** **år** til neste gang\.                                                                                       | Jeg håper **at** det ikke blir **tyveår** til neste gang\.                                                                                     |
+| Maleriets integritet søkes i dets spesifikke og essensielle egenskaper\.                                                                       | Maleriets integritet søkes i dets spesifikke og essensielle egenskaper\.                                                                       |
+| Det hender at de andre spillerne velger å legge bort ansvaret**\,** fordi hun tar det\.                                                        | Det hender at de andre spillerne velger å legge bort ansvaret fordi hun tar det\.                                                              |
+| Her ble det før saltet makrell\.                                                                                                               | Her ble det før saltet makrell\.                                                                                                               |
+| Erik får seg jobb ved det lokale politikammeret og flytter inn hos sin bror som bor på familiegården\.                                         | Erik får seg jobb ved det lokale politikammeret og flytter inn hos sin bror som bor på familiegården\.                                         |
+| Når man diskuterer **en** ting\, så skal man gjøre det saklig\.                                                                                | Når man diskuterer **én** ting\, så skal man gjøre det saklig\.                                                                                |
+| I kontrast til andres utsagn valgte statsministeren å konsentrere seg om generalsekretærens **hudfarve** og utseende\.                         | I kontrast til andres utsagn valgte statsministeren å konsentrere seg om generalsekretærens **hudfarge** og utseende\.                         |
+| Helland avviser bestemt at det nye systemet fører til at enkelte elever faller utenfor\.                                                       | Helland avviser bestemt at det nye systemet fører til at enkelte elever faller utenfor\.                                                       |
+| Informasjon er viktig for å fjerne rasisme\.                                                                                                   | Informasjon er viktig for å fjerne rasisme\.                                                                                                   |
+| Det synes vanskelig å påvise forskjeller i **adferd** mellom dem som eier og dem som leier bolig\.                                             | Det synes vanskelig å påvise forskjeller i **atferd** mellom dem som eier og dem som leier bolig\.                                             |
+| Skulle barnet bli gjort ansvarlig for skaden på bilen\, er også barnets økonomiske ansvar **dekket** av familiens **hjemforsikring**\.         | Skulle barnet bli gjort ansvarlig for skaden på bilen\, er også barnets økonomiske ansvar **rekket** av familiens **hjemmeforsikring**\.       |
+| I tillegg måtte vi utvide prøvetiden med en halv uke\, fordi vi hadde mange urutinerte musikere\.                                              | I tillegg måtte vi utvide prøvetiden med en halv uke\, fordi vi hadde mange urutinerte musikere\.                                              |
+| Mange er redde for å få sparken og dermed miste sitt levebrød\.                                                                                | Mange er redde for å få sparken og dermed miste sitt levebrød\.                                                                                |
+| Hvilke musikere som kommer\, er ennå ikke bekreftet\.                                                                                          | Hvilke musikere som kommer\, er ennå ikke bekreftet\.                                                                                          |
+| Kommuner som ønsker å gi tillatelse til bygging av slike sentre\, må søke om dispensasjon\.                                                    | Kommuner som ønsker å gi tillatelse til bygging av slike sentre\, må søke om dispensasjon\.                                                    |
+| Skulle barnet bli gjort ansvarlig for skaden på bilen\, er også barnets økonomiske ansvar dekket av familiens hjemforsikring\.                 | Skulle barnet bli gjort ansvarlig for skaden på bilen\, er også barnets økonomiske ansvar dekket av familiens hjemforsikring\.                 |
+| Flere av sangene er skrevet for mange år siden\, og er preget av det\.                                                                         | Flere av sangene er skrevet for mange år siden\, og er preget av det\.                                                                         |
+| Han var høyt respektert og sto i en klasse for seg\.                                                                                           | Han var høyt respektert og sto i en klasse for seg\.                                                                                           |
+| Hun liker ikke helt termen politisk teater\, men understreker at kunstnerisk engasjement og idealisme alltid har preget teaterets virksomhet\. | Hun liker ikke helt termen politisk teater\, men understreker at kunstnerisk engasjement og idealisme alltid har preget teaterets virksomhet\. |
+| Vi har bare en tilmålt tid\, det tenker jeg alltid på\.                                                                                        | Vi har bare en tilmålt tid\, det tenker jeg alltid på\.                                                                                        |
+| Investeringen i dette vil sikkert gi god avkastning\.                                                                                          | Investeringen i dette vil sikkert gi god avkastning\.                                                                                          |
+| Jeg tror dere vil få noe å tenke på\.                                                                                                          | Jeg tror dere vil få noe å tenke på\.                                                                                                          |
+| Møtet med det nye går best når vi har en trygg forankring i oss selv\.                                                                         | Møtet med det nye går best når vi har en trygg forankring i oss selv\.                                                                         |
+| Jeg tror han likte det han så\.                                                                                                                | Jeg tror han likte det han så\.                                                                                                                |
+| Dette betyr ikke at musikken blir lagt på hyllen i hovedstaden\.                                                                               | Dette betyr ikke at musikken blir lagt på hyllen i hovedstaden\.                                                                               |
+| Deres besøk der vil sikkert gjøre årets nasjonaldag spesielt minnerik for små som store i denne del av hovedstaden\.                           | Deres besøk der vil sikkert gjøre årets nasjonaldag spesielt minnerik for små som store i denne del av hovedstaden\.                           |
+| Hun har gitt seg i kast med et krevende trekantdrama\, en fortelling om kjærlighetstyven som prøver å stjele en annen manns liv\.              | Hun har gitt seg i kast med et krevende trekantdrama\, en fortelling om kjærlighetstyven som prøver å stjele en annen manns liv\.              |
+| Ved siden av skolegangen ble fotballen hans viktigste gjøremål\.                                                                               | Ved siden av skolegangen ble fotballen hans viktigste gjøremål\.                                                                               |
+| I kveld forteller han historien som satte spor i **karriéren**\.                                                                               | I kveld forteller han historien som satte spor i **karrieren**\.                                                                               |
+| Han sier også at det er første gang det er inngått en slik avtale i vår del av verden\.                                                        | Han sier også at det er første gang det er inngått en slik avtale i vår del av verden\.                                                        |
+| Hans entusiasme smittet over på datteren\.                                                                                                     | Hans entusiasme smittet over på datteren\.                                                                                                     |
+| **Terrie** er født i fiskens tegn og er svært dyrekjær\.                                                                                       | **Terry** er født i fiskens tegn og er svært dyrekjær\.                                                                                        |
+| Det er ikke så lett å **love** penger her og nå\.                                                                                              | Det er ikke så lett å **låve** penger her og nå\.                                                                                              |
+| På en brøkdel av et sekund spinner et kamera automatisk rundt og zoomer inn på en kasse der alarmen har gått\.                                 | På en brøkdel av et sekund spinner et kamera automatisk rundt og zoomer inn på en kasse der alarmen har gått\.                                 |
+| Andre land er dessverre ikke mer miljøvennlige\.                                                                                               | Andre land er dessverre ikke mer miljøvennlige\.                                                                                               |
+| Det vil sende dem rett til bunns\.                                                                                                             | Det vil sende dem rett til bunns\.                                                                                                             |
+| Det er derfor ikke likegyldig om kommunen har en egen miljøvernrådgiver\.                                                                      | Det er derfor ikke likegyldig om kommunen har en egen miljøvernrådgiver\.                                                                      |
+| **Orkestret** settes sammen fra år til år\.                                                                                                    | **Orkesteret** settes sammen fra år til år\.                                                                                                   |
+| Han hevder at økningen er som ventet\, men kan ikke gi noe anslag på utviklingen fremover\.                                                    | Han hevder at økningen er som ventet\, men kan ikke gi noe anslag på utviklingen fremover\.                                                    |
+| Det finnes imidlertid ikke noen absolutte grenser for hva som er virkelig effektiv og mindre effektiv behandling\.                             | Det finnes imidlertid ikke noen absolutte grenser for hva som er virkelig effektiv og mindre effektiv behandling\.                             |
+| Hun holder seg bak en maske og spiller en rolle\.                                                                                              | Hun holder seg bak en maske og spiller en rolle\.                                                                                              |
+| Han innrømmer at det ikke lenger er så gøy å synge\.                                                                                           | Han innrømmer at det ikke lenger er så gøy å synge\.                                                                                           |
+| Et annet emne er estetisk vurdering\.                                                                                                          | Et annet emne er estetisk vurdering\.                                                                                                          |
+| Han er en forsiktig og ansvarsfull person\.                                                                                                    | Han er en forsiktig og ansvarsfull person\.                                                                                                    |
+| Han sier også at det er første gang det er inngått en slik avtale i vår del av verden\.                                                        | Han sier også at det er første gang det er inngått en slik avtale i vår del av verden\.                                                        |
+| På grunn av de store hastighetene blir kollisjonene enormt virkningsfulle\.                                                                    | På grunn av de store hastighetene blir kollisjonene enormt virkningsfulle\.                                                                    |
+| Filmene sløyfer det **særegent** **språklige**\, men bevarer atmosfære og intrige\.                                                            | Filmene sløyfer det **særegentspråklige**\, men bevarer atmosfære og intrige\.                                                                 |
+| Forestillingen skal være et likeverdig møte mellom to kunstarter\.                                                                             | Forestillingen skal være et likeverdig møte mellom to kunstarter\.                                                                             |
+| Bakterien kan blant annet føre til bukhinnebetennelse\, urinveisinfeksjon og i verste fall blodforgiftning\.                                   | Bakterien kan blant annet føre til bukhinnebetennelse\, urinveisinfeksjon og i verste fall blodforgiftning\.                                   |
+| Nå er det ikke sikkert at dette blir noe problem for ham\.                                                                                     | Nå er det ikke sikkert at dette blir noe problem for ham\.                                                                                     |
+| Hun tar seg en måned fri hvert år\.                                                                                                            | Hun tar seg en måned fri hvert år\.                                                                                                            |
+| Spisse albuer kan bli nødvendig for pressefolk som vil sikre seg plass\.                                                                       | Spisse albuer kan bli nødvendig for pressefolk som vil sikre seg plass\.                                                                       |
+| En slik gjenoppliving av gamle tanker vil neppe føre til nye tiltak av særlig betydning\, men kan forsterke motstanden mot privatisering\.     | En slik gjenoppliving av gamle tanker vil neppe føre til nye tiltak av særlig betydning\, men kan forsterke motstanden mot privatisering\.     |
+| Det kan være én grunn til at denne eksamensformen er blitt stadig mer populær\.                                                                | Det kan være én grunn til at denne eksamensformen er blitt stadig mer populær\.                                                                |
+| Det vi kan vite sikkert\, er at de gamle vennene savnes når de blir borte\.                                                                    | Det vi kan vite sikkert\, er at de gamle vennene savnes når de blir borte\.                                                                    |
+| Det vi ikke sa\, var at vi også ville ta med hovedpersonen\.                                                                                   | Det vi ikke sa\, var at vi også ville ta med hovedpersonen\.                                                                                   |
+| Vi vil nok overraske dem som tror at vi ikke gjør annet enn å gjenta oss selv\.                                                                | Vi vil nok overraske dem som tror at vi ikke gjør annet enn å gjenta oss selv\.                                                                |
+| Hun har også vært med på å designe sin egen smykkekolleksjon\.                                                                                 | Hun har også vært med på å designe sin egen smykkekolleksjon\.                                                                                 |
+| Andre hensyn avgjør om det skal tegnes nye avtaler\.                                                                                           | Andre hensyn avgjør om det skal tegnes nye avtaler\.                                                                                           |
+| Du har **ditt** på det tørre\.                                                                                                                 | Du har **litt** på det tørre\.                                                                                                                 |
+| Den sorte spaserdrakten skal være blank\.                                                                                                      | Den sorte spaserdrakten skal være blank\.                                                                                                      |
+| Den **høygravide** arbeiderpartipolitikeren står for det hun gjør\.                                                                            | Den **helgravide** arbeiderpartipolitikeren står for det hun gjør\.                                                                            |
+| Uheldige **bivirkninger** vil kunne få store konsekvenser\.                                                                                    | Uheldige **byvirkninger** vil kunne få store konsekvenser\.                                                                                    |
+| Vedtak etter loven skal kunne ankes til en egen **klagenevnd**\.                                                                               | Vedtak etter loven skal kunne ankes til en egen **klagenemnd**\.                                                                               |
+| **Terrie** er født i fiskens tegn og er svært dyrekjær\.                                                                                       | **Terry** er født i fiskens tegn og er svært dyrekjær\.                                                                                        |
+| I dag vil det være riktig å selge **bilder** for å rette opp økonomien\.                                                                       | I dag vil det være riktig å selge **bildet** for å rette opp økonomien\.                                                                       |
+| Han lot seg ikke stanse av noe eller noen som helst\.                                                                                          | Han lot seg ikke stanse av noe eller noen som helst\.                                                                                          |
+| Det er ikke for sent å snu\.                                                                                                                   | Det er ikke for sent å snu\.                                                                                                                   |
+| Disse kommer i stand gjennom forhandlinger\.                                                                                                   | Disse kommer i stand gjennom forhandlinger\.                                                                                                   |
+| Det forundrer oss at ikke arkitekturhistorikeren husker at slike prosesser er historisk legitimert gjennom en rekke eksempler\.                | Det forundrer oss at ikke arkitekturhistorikeren husker at slike prosesser er historisk legitimert gjennom en rekke eksempler\.                |
+| Han forteller at det er noe helt spesielt med denne gruppen\.                                                                                  | Han forteller at det er noe helt spesielt med denne gruppen\.                                                                                  |
+| Maleriets integritet søkes i dets spesifikke og essensielle egenskaper\.                                                                       | Maleriets integritet søkes i dets spesifikke og essensielle egenskaper\.                                                                       |
+| Det gigantiske arrangementet med folkloreinnslag\, kunst og fantastisk underholdning imponerte stort\.                                         | Det gigantiske arrangementet med folkloreinnslag\, kunst og fantastisk underholdning imponerte stort\.                                         |
+| Veggene og dansegulvet vil være dekorert med karibiske effekter\.                                                                              | Veggene og dansegulvet vil være dekorert med karibiske effekter\.                                                                              |
+| Han er også svak for raket røye\, men foretrekker fisk som bare er saltet\.                                                                    | Han er også svak for raket røye\, men foretrekker fisk som bare er saltet\.                                                                    |
+| Det går **ut** **over** servicen vi skal gi befolkningen\.                                                                                     | Det går **utover** servicen vi skal gi befolkningen\.                                                                                          |
+| Før gryten brukes\, skal den ligge i vann i minst et kvarter og gjerne lenger\.                                                                | Før gryten brukes\, skal den ligge i vann i minst et kvarter og gjerne lenger\.                                                                |
+| Jeg fulgte rettssakene mot generalene som seriøs journalist\, jeg vandret blant rike oljefolk og jeg deltok i det elleville nattelivet\.       | Jeg fulgte rettssakene mot generalene som seriøs journalist\, jeg vandret blant rike oljefolk og jeg deltok i det elleville nattelivet\.       |
+| Trykket er satt til et nivå som tilsvarer ti meters dybde i sjøvann\.                                                                          | Trykket er satt til et nivå som tilsvarer ti meters dybde i sjøvann\.                                                                          |
+| Her kan det til syvende og sist bli et spørsmål om hvem som har råd til å kjøpe hva\.                                                          | Her kan det til syvende og sist bli et spørsmål om hvem som har råd til å kjøpe hva\.                                                          |
+| Informasjonssjefen tar på seg ansvaret for feilen\, og lover at den ikke skal gjenta seg\.                                                     | Informasjonssjefen tar på seg ansvaret for feilen\, og lover at den ikke skal gjenta seg\.                                                     |
+| Maleriets integritet søkes i dets spesifikke og essensielle egenskaper\.                                                                       | Maleriets integritet søkes i dets spesifikke og essensielle egenskaper\.                                                                       |

runs/Dec05_23-22-46_t1v-n-395d74b4-w-2/events.out.tfevents.1701818566.t1v-n-395d74b4-w-2.26884.0.v2

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:937a02cd26bcac6c6cf40362b31782d614eaedc89375f82c12c71abff9a0270c
-size 147152
+oid sha256:fa72f132201cbc779f987ec8724ee30ada869a08dbe2e7dcc13ec9e89689d1ae
+size 1763752

training_state.bin

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:d8a75934514b4b25c7195a92df10694f75d772fc7eda53c9ef3fc589490c56d2
-size 594
+oid sha256:0abba04fdddb64f742a73afdf9bc9c948b702407f60c87a4c7d3b11f656a158b
+size 1167