遭县政府 通缉，投入浙军陈仪部当排长。浙军被孙传芳打败，汤在杭州无出路，改名为汤恩伯。同乡富商童乐勋出资寻一人结伴留学日本，遂于1921年春一起赴日，学日语。1922年3月考入明治大学法科攻读政治经济学。1925年3月回上海写信给孙传芳请他保举考日本陆军士官学校，遭拒绝后，经同学徐逸樵建议，设法谒见素不相识的陈仪，获得其推荐和经济资助，入读日本陆士第十八期步兵科。1927年夏，毕业回国，经陈仪保荐，入湖南陆军第一师任学兵连连长。1928年6月到南京中央陆军军官学校任军事教官，后任军校第六期上校总队长、军校教