湊庄市
徳島県は阿波郡市場町(現・阿波市)にて、養蚕業と雑貨商を営む小山家に次男として生まれた。1935年4月に旧制阿波中学校(現・県立阿波高校)へ入学し、授業で柔道と剣道のどちらかが必修科目となっていたため、道具の安い柔道を選択したのが斯道に触れるきっかけとなった。 師範の竹内秀夫より柔道を学び、ここで同級生の川添利雄(のち高知県柔道連盟会長)や西條晃正(のち徳島県議会議員)らと阿波中の黄金時代を築いたのち、1939年6月付で講道館へ入門。 3段位で中学校を卒業後は恩師・竹内の勧めにより京都の大日本武徳会武道専門学校へと進学、1943年9月に卒業する迄の4ヵ年を磯貝一や田畑昇太郎のほか高木栄一郎、胡井剛一、若林文吾らに師事し、同期の伊藤秀雄や大矢喜久雄(いずれものち9段)らと共に厳しい稽古の日々を送った。この頃には1942年の全日本学生東西対抗大会に出場した記録が残っている。
1943年9月に武道専門学校を卒業後は旧制富岡中学校(現・県立富岡西高校)で1ヵ月間ながら国語の教師として教壇に立ち、11月には太平洋戦争に応召されて小倉野戦重砲兵第に入隊。日本海を渡って釜山から各地を転戦し、満州から富山県の伏木港を経由して千葉県山武郡源村の極楽寺(現・東金市)に駐屯し、来たる本土決戦に向けて迎撃作戦の準備をした所で終戦を迎えた。 戦後は郷里・徳島に戻って市場町役場に奉職しながら徳島刑務所で柔道教師を務め、また1947年からは接骨業も営んだ、1949年には徳島県警の警察官を拝命して、以後は治安維持の職務に当たる傍ら引き続き柔道修行に励む。同年7月には6段位を許された。