野外比赛，山南也以红军身分参与比赛。文久2年（1861年）正月时、曾与沖田总司一起出差到小野路教授剑术。
新选组.文久3年（1862年）2月，山南与近藤加入了以保护将军和尊王攘夷为目的，由清河八郎提案所组成的浪士组，并且成为前往京都的壬生浪士组中的一员。3月26日，为了争夺队内的权力，他与近藤、芹泽鸭一起在四条大桥暗杀殿内义雄。壬生浪士组也从此成为近藤派、芹泽派两派所组成之组织，近藤和芹泽担任局长、山南作为近藤派与土方岁三一起就任局长助（副长）（至于芹泽派则是由新见锦就任局长助）。