小山正太郎
越後国長岡藩・藩医の惣領。明治2年(1869年)家督相続をして、長岡藩士として出仕(高100石)。廃藩後に地元の長岡英学校で学ぶ。明治4年(1871年)政治家を志して上京するが、翌年、川上冬崖の画塾「聴香読画館」に入り、まもなく塾頭になる。同6年、陸軍兵学寮に入り,翌年陸軍士官学校図画教授掛となって、陸軍省に招聘されていたフランス人教官アベル・ゲリノー(Abel Guérineau)から水彩画法などを学んだ。
同9年(1876年)、工部美術学校開校と同時に入学、イタリア人教官、アントニオ・フォンタネージの指導を受ける。翌年、門下生の中で最も優秀な成績を修め、その助手となる。同11年11月、フォンタネージの後任となったプロスペロ・フェレッティ(Prospero Ferretti)の指導法に疑問を抱き、仲間と共に連袂退学を主導し決行、浅井忠ら連袂退学者と十一会を結成する。一方、小山は明治12年(1879年)東京師範学校図画教員となり、以後17年図画調査委員、20年図画教科書編纂委員になるなど、図画教育の普及に尽力する。
父・小山良運 - 長岡藩藩医
弟・小山吉郞(1860年生) - 海軍少将。工部大学造船科卒の造船技術者。横須賀海軍工廠造船部長、予備海軍造船総監などを務めた。
弟・小山秋作(1862-1927) - 陸軍大佐。少尉時代に上海の日清貿易研究所勤務し、帰国後大尉となり、近衛師団として台湾に渡り、日露戦争で奉天軍政官を務めたのち参謀本部に属して中国関係の問題処理に当たった。大佐に昇進したが病気により退役し、南洋スラバヤに南洋起業を創立(のち南亜公司と合併)。岳父に児玉淳一郎。二女の入り婿に立教大学教授の小山栄三。孫に小山觀翁。
妻・すみ - 鹿児島藩士・家村住義の二女。家村は薩摩藩の屯田兵准大尉で、永山武四郎の部下として北海道開拓に従事した