国共合作的背景下，张德生曾在绥德师范加入了国民党组织，并开始参加革命活动。自“四一二政变”后，张德生退出国民党；于1927年夏，加入中国共产主义青年团；随后转为共产党党员。自1928年，张德生以小学教员的身份，掩护中共地下组织。1930年8月成为中国共产党党员。参加了1930年由赵伯平、孔祥祯、谢子长、刘志丹等人组织的陕北总暴动；后遭国民党逮捕。1931年被释放后，赴银川、兰州等地活动；1933年11月，被任命为中共陕南特委常委、兼组织部部长，参与川陕苏区的建立，并跟随红四方面军参加了长征。受中央委托，