1927年北伐战争时，任武汉国民政府首席参事。1927年之后，任国民政府立法院立法委员兼交通部顾问。1929年，任中国国民党湖南省指导委员会指导委员、组织部长。1930年代，曾杰离职，并抨击蒋介石的不抵抗政策，赴上海创办《义勇周刊》。曾参与陈铭枢、蔡廷锴、李济深等人的反蒋活动，在福建成立中华共和国人民革命政府。事败，曾杰遭特务秘密逮捕，囚禁于厦门鼓浪屿。曾杰通过英国人将其被秘密囚禁的消息外泄，迫使蒋介石将其释放。1939年至1940年，曾杰在湖南任张治中的军事顾问。1941年，因反对自长沙撤退，并计划组