讨薛举战败，士卒死者十之五六，被除名为民。参加平薛举子薛仁果之役，后恢复爵位。武德二年，兼任陕东道大行台兵部尚书，迁吏部尚书。又跟随李世民征王世充，以战功进封郧国公。武德六年（622年）在讨伐刘黑闼的路上，殷开山病死，李世民临丧痛哭，赠陕东道大行台右仆射，谥曰节。贞观四年（630年），与淮安王李神通、河间王李孝恭、刘政会等配飨唐高祖庙庭。贞观十七年，又与长孙无忌、唐俭、长孙顺德、刘弘基、刘政会、柴绍等十七人，俱名列凌烟阁。唐高宗永徽五年（654年），追赠司空。
家族.嗣子：