元帅孙中山派驻上海，担任大元帅驻沪办理和平统一的代表，参与南北议和。在上海时，徐谦创办法政大学。南北议和失败后，1923年徐谦回广州，任岭南大学文学系主任，创办《评议日报》。
国共合作.民国十三年（1924年）1月，中国国民党第一次全国代表大会在广州召开，标志着第一次国共合作正式达成，徐谦积极赞成国共合作。1924年10月，冯玉祥发动北京政变，囚禁大总统曹锟，并邀请孙中山北上共商国是。1924年10月，徐谦应冯玉祥邀请到北京参加国事会议，用“基督救国主义”思想劝说“基督将军”冯玉祥