革命失败后，在家读书。1915年秋，应朋友邀请，到陇西协办甘宁官盐商运业务。1923年10月，拒绝曹锟贿选，避居天津英租界。1924年，将办盐务时剩余的资金全部购买枪支弹药，秘密从天津运往安徽，组建皖豫国民联军，自任总司令，驻皖豫交界各县，响应冯玉祥推翻曹锟。1926年北伐开始，皖豫国民联军配合北伐军。北伐在当地获胜后，豫皖国民联军改编为国民革命军暂编第六军，石德纯任军长。此后北上作战，立下战功。1927年蒋介石发动四一二政变后，排斥异己，对第六军进行改编，免去石德纯的军长一职，调任军事参议院中将参