族弟李神通在鄠县与史万宝、河东裴勣、柳崇礼等人举兵应援，并与盩厔的平阳公主连结，攻下鄠县。李神通自称关中道行军总管，以史万宝为副总管，裴勣为长史，柳崇礼为司马，令狐德棻为记室。618年，李渊入长安建丞相府，史万宝任相府功曹参军，封大平县开国公。之后世子李建成、赵公李世民为左右二元帅，率军攻略东都洛阳，史万宝为行军总管、右翊卫将军，数月东都未能攻下，时值夏月农忙，遂自东都班师，留史万宝、盛彦师镇宜阳（今河南省宜阳县西），吕绍宗、任瓌镇新安（今河南省洛阳市西新安县），以防御王世充。不久宜阳郡改称熊州，史万宝任刺