先代青山庄兵衛の長男として越前国足羽郡東郷村(福井県足羽郡東郷二ヶ村、東郷村、足羽村、足羽町を経て現福井市東郷二ケ町)に生まれる。