镇北堆村。父亲孔繁章是一个店员，在孔祥桢出生后一年多便病故。孔祥桢随勤劳持家的母亲长大。1912年开始在本村小学读书。后在晋城县立高小、晋城获泽中学读书。1925年加入中国共产党，是晋城第一个发展的共产党员。1926年任中共太原地执委秘书。同年前往莫斯科中山大学留学。1930年回国后，出任中共陕北特委军委书记。1931年4月，任唐山市委军委书记。1931年7月被捕，1933年初保外就医。抗日战争期间，他曾任一二九师情报处长，豫西支队政治部副主任、统战部长兼宣传部长等职。第二次国共内战期间，又历任晋冀鲁豫边区