1920年（民国9年），任孙文的侍卫副官。1921年（民国10年），曹再度赴日本留学，入陆军大学校。
国民军到国民革命军.1924年（民国13年）毕业归国后，曹浩森被任命为孙文的总侍卫。1925年3月，孙去世，曹被李烈钧推荐到冯玉祥领导的国民军。1926年（民国15年）初，任西北边防督办公署参谋长。同年5月参加指挥南口大战。同年9月，五原誓师，国民军改组为国民联军，曹继续任参谋长。翌年，国民联军又改组为国民革命军第二集团军，曹任总参谋长。1928年（民国17年）3月，曹浩森兼任