削弱的孙文赴上海，张知本随从。1923年（民国12年），张知本任教于上海法政大学。1924年（民国13年）1月，中国国民党第一次全国代表大会在广州召开，张知本参加，当选候补中央执行委员。2月，出任陆海军大元帅大本营参议。张知本反对孙文的三大政策，和冯自由开展反共活动。其后，调往中国国民党汉口执行部，负责陕西、湖北、湖南3省的党务。同年，任湖北法科大学（今武汉大学法学院前身）校长。1925年（民国14年）3月，孙文逝世，张知本被视为同年11月在北京结成的反共右派西山会议派成员。实际上张知本虽对西山会议