毕业后，留校任职，担任黄埔军校校长办公厅副官。蒋中正奉孙中山之命东征讨伐陈炯明叛变，蒋国涛担任东征军总指挥部秘书处秘书。之后担任国民革命军总司令部秘书处副官（少校军衔）。曾先后参加两次东征和北伐。1928年起，先后担任陆海空军总司令部副官处副官（中校军衔），国民政府军事委员会委员长侍从室第四组参谋，南京黄埔同学会办公处秘书，南京中央宪兵司令部第一团营长、团附，上海警备司令部宪兵团长等职务。抗日战争爆发后，先后担任武汉警备司令部江防指挥部参谋长，国民政府军事委员会交通巡察处副处长（少将军衔），陇海