贫寒，其父为常广云，母为常于氏，为家中长子，下有二个弟弟、二个妹妹。家中支持常持琇赴府城就读初中，后又考取山东省立第三师范，于1937年毕业，随即赴武汉，投考黄埔军校十四期砲科，于毕业时留校任助教，担任带领十五期学弟为区队长。1941年始离校调西北胡宗南麾下之第一军七十八师任上尉连长，少校作战参谋。1944年升任营长，在职期参与中外有名之中原会战，1945年抗日战争结束，后赴重庆考入陆军大学二十一期正规班，在学期间结识周丽华，后于南京成婚，育有一子二女。1948年将军陆大结业即入兵学研究院十六期。1