赐爵葛国公，仍与史万宝镇熊州（宜阳）。武德三年（620年）七月，秦王李世民总率诸军攻打洛阳的王世充，命史万宝自宜阳南据龙门，刘德威自太行东围河内，王君廓自洛口断敌粮道，黄君汉夜袭攻克回洛城。唐军占领黄河已南，进驻邙山。次年（621年）五月，唐军大破窦建德援军于虎牢，王世充无助之下投降。史万宝以功升任山东行台民部尚书，进封原国公。武德五年（622年），窦建德故将刘黑闼借兵于突厥，恢复了河北原夏国故地。唐高祖派遣19岁的淮阳王李道玄为山东道行军总管、原国公史万宝为副，进行征讨，在下博（今河北深县西南）之