Grieg ble født den 1. november 1902 i Bergen. Som yngstemann i en søskenflokk på fire vokste Nordahl Grieg opp i Bergen, byen som for alltid skulle stå ham nærmest og sette sitt merke på hans diktning og livsform. Foreldrene, Peter Lexau Grieg (1864–1924) og Helga Vollan (1869–1949), hadde kalt ham opp etter hans tipp-tippoldefar, bergensbiskopen og dikteren Johan Nordahl Brun. Faren Peter Grieg, som var lektor, hadde sterk interesse for litteratur. Selv begynte Nordahl å vise tendenser som lyriker og skribent allerede i gymnastiden ved Bergen katedralskole. Etter hvert fikk han en sterk trang etter å oppleve verden.