而与试卫馆的门人一起行动。并且与这些聚集在试卫馆的土方歳三、沖田总司、永仓新八等都成为之后新选组的干部。文久元年（1860年）8月，在府中六所宫进行近藤就任天然理心流第四代传人的野外比赛，山南也以红军身分参与比赛。文久2年（1861年）正月时、曾与沖田总司一起出差到小野路教授剑术。
新选组.文久3年（1862年）2月，山南与近藤加入了以保护将军和尊王攘夷为目的，由清河八郎提案所组成的浪士组，并且成为前往京都的壬生浪士组中的一员。3月26日，为了争夺队内的权力，他与近藤、芹泽鸭一