宝谊早年游太学，唸不了书，遂从军为左翊卫，隋末以军功迁致通议大夫、鹰扬郎将，率府兵从李渊前往太原剿寇。大业十三年（617年），从李渊自太原起兵，授左统军，平西河，下霍邑，以功封光禄大夫、永安县公。武德初年，拜右武卫大将军。武德二年（619年）四月，刘武周派使大将宋金刚袭破榆次县，佔领介州（今山西介休）。唐高祖遣太常少卿李仲文与姜宝谊为行军总管，与武周部将黄子英在雀鼠谷（今山西灵石县西南汾水河谷）交战，黄子英以轻兵挑战引诱唐军，战接而三遁，唐军追击，伏兵发，全军覆没，李仲文与姜宝谊被敌将黄子英俘虏，后侥倖