然离开广州赴上海。1925年（民国14年）3月12日，孙文在北京病逝，居正闻讯赶赴北京奔丧。其后，在上海同章炳麟（章太炎）组织「辛亥倶乐部」，依然反对中国国民党的联共联俄路线。同年11月，居正、邹鲁、谢持、林森等人在北京西山碧云寺擅自召开中国国民党第二次全国代表大会（西山会议），公开发表反对三大政策及反共的宣言。因而被在广州召开的中国国民党第二次全国代表大会开除党籍。
司法院院长.此后，居正一直同蒋介石保持对立的政治姿态。1927年，蒋介石建立南京“中国国民党中央党部”，通令恢