Nouhak Phoumsavan wurde in einem kleinen Ort auf der thailändischen Seite des Grenzflusses Mekong geboren. Er war teilweise vietnamesischer Abstammung und heiratete auch eine Vietnamesin. Er schloss sich 1945 der Widerstandsbewegung gegen die französische Kolonialherrschaft in Laos an. 1955 gehörte er zu den Gründungsmitgliedern der Laotischen Volkspartei (später LRVP). In ihr galt er lange Zeit als Nummer zwei hinter dem Generalsekretär Kaysone Phomvihane. 1958 wurde er in die Nationalversammlung gewählt, nach der Machtübernahme der Rechten und dem Ausbruch des Laotischen Bürgerkriegs 1959 jedoch inhaftiert. Nach einem Jahr konnte er, gemeinsam mit dem „roten Prinzen“ Souphanouvong fliehen.