Johan Nyland var sønn av baker (1905–1975) og hjemmeværende/konfeksjonsarbeider (1908–2003). Etter yrkesskoleutdanning ble han i 1947 ansatt som læregutt ved Mustad på Gjøvik. Her skulle Nyland ha sitt yrkesvirke til han i 1985 ble valgt inn på Stortinget. Ved Mustad ble Nyland også engasjert i fagforeningsarbeid, og i perioden 1964-1968 var han nestformann i .