个性也非常温厚，常被人亲切地称做「山南先生」。在江户的千叶道场学习北辰一刀流之后出师。并在败给近藤勇后而加入其门下。1863年，以试卫馆一门的身分，与近藤勇、土方岁三一同加入壬生浪士组。历任新选组副长、总长，一度受伤后就经常卧病在床，之后脱离新选组遭到沖田总司逮捕，并以切腹方式而死。
出身.从仙台藩脱藩后，前往江户，山南在仙台也用三南这个姓，但详情不明。曾获得小野派一刀流免许皆传的身分，之后成为北辰一刀流的千叶周作门人。
试卫馆.前往近藤勇的天然理心流剑术