士组中的一员。3月26日，为了争夺队内的权力，他与近藤、芹泽鸭一起在四条大桥暗杀殿内义雄。壬生浪士组也从此成为近藤派、芹泽派两派所组成之组织，近藤和芹泽担任局长、山南作为近藤派与土方岁三一起就任局长助（副长）（至于芹泽派则是由新见锦就任局长助）。以尊王攘夷为目的所组成的浪士组，被当时负责维持京都治安的会津藩收编，成为专门取缔不法浪人的组织。文久3年（1862年）7月，山南和土方一起在和服商「岩城升屋」的激烈战斗中，击退数名闯入的不法浪人。之后8月18日发生「八一八禁门之变」，山南在事发2天后与土方一起斩