在广西省立模范两级小学和桂林旧制中学读书。1919年，考入广西陆军讲武堂步兵科学习，毕业后留校任教。1924年，李宗仁击败旧桂系陆荣廷，主政广西，秦霖开始在李宗仁部出任军职。1926年，李宗仁、白崇禧参加国民革命军北伐， 广西部队改编为国民革命军第七军，秦霖担任少校营长。后在1927年的南京龙潭之战中协力击败了孙传芳。北伐战争期间，秦霖两次负伤被送院，然伤未痊愈便再次投入战斗。 1929年3月，新桂系在蒋桂战争中兵败，秦霖返乡编练民团。 1930年至1933年，秦霖分别担任李宗仁部桂林行