李世民所败，薛举因此有降唐之心。但郝瑗反对，于是欲联合突厥莫贺咄设合攻长安，但因莫贺咄设被李世民所怀柔未发兵而失败。618年再度与唐朝军队作战，主帅李世民以及唐朝将领刘文静、殷开山等因轻敌而被薛举击败，欲顺势进攻长安时病死，由他的儿子薛仁果继任，给他谥号武帝。史书上记载薛举性格较为残忍，对战俘加以杀害，甚至使用割舌鼻等酷刑，因此无法获得人民广泛的支持。