天后与土方一起斩杀掉潜伏于京都的长州系浪人。文久3年（1863年）的9月，山南参与老早就和近藤不合的芹泽鸭暗杀行动。此后，浪士组被近藤派（试卫馆派）所统一，组织重新改造，并由山南担任总长，他的地位则处于局长近藤、副长土方岁三之间，但实际上并无实权。从暗杀事件到后来的切腹事件，山南的名字完全地从新选组的活动纪录中消失。元治元年（1864年）6月发生着名的池田屋事件，但山南也没有参加该次行动。（有一说是山南因为生病，而在基地留守。）元治元年（1864年）11月，伊东甲子太郎入队。伊东和山南都属于同门的北