阮文灵生于越南北方興安省。1929年参加革命。1930年被法国殖民当局逮捕，流放至昆仑岛监狱，1936年获释；同年加入印度支那共产党（今越南共产党），在河内、海防一带从事地下工作，参与恢复和重建海防市临时市委的工作；1939年被派往南方工作，任西贡市（今胡志明市）市委委员。1940年负责中圻各省的建党工作；1941年在荣市再次被捕，直到1945年八月革命胜利后才获释。