浪士组，被当时负责维持京都治安的会津藩收编，成为专门取缔不法浪人的组织。文久3年（1862年）7月，山南和土方一起在和服商「岩城升屋」的激烈战斗中，击退数名闯入的不法浪人。之后8月18日发生「八一八禁门之变」，山南在事发2天后与土方一起斩杀掉潜伏于京都的长州系浪人。文久3年（1863年）的9月，山南参与老早就和近藤不合的芹泽鸭暗杀行动。此后，浪士组被近藤派（试卫馆派）所统一，组织重新改造，并由山南担任总长，他的地位则处于局长近藤、副长土方岁三之间，但实际上并无实权。从暗杀事件到后来的切腹事件，山南的名字