Mjelves foreldre, Hjalmar Mjelve (1880–1963) og Charlotte født Stenersen (1878–1938), var misjonærer og han levde sine første tolv år i Kina. Han var ansatt i Norges Bank fra 1946 til 1983, og debuterte som lyriker i godt voksen alder, i 1978. Han skrev i alt 11 diktsamlinger, og en barnebok. Han redigerte også en antologi med kinesisk lyrikk. Hans ble utgitt i 1994, og utkom i 1996. Han mottok Gyldendals legat i 1990 og Brageprisen i 1994.