国后，先到上海，旋转赴长沙。初在楚怡工业学校任教，继又兼长沙兵工厂技正（总工程师）。1923年11月，在《创造周报》发表《国学运动之我见》，批评了社会上盲目研究国学的风气，斥责整理国故是倒行逆施的狂妄，认为这是“遗害更加百倍的清谈”。1925年，参加中国国民党，赴广东大学（今中山大学）任理学院物理力学主任教授，兼黄埔军校教官。1926年3月，经上海到广州，继续担任中山大学教授，并兼任黄埔军校兵器科技正，后又任黄埔军校兵器处代理处长。1927年7月，成仿吾受黄埔军校教育长兼代校长方鼎英之托，携带五万日元巨