隋称帝建立唐朝。武德元年（618年）九月，唐军与秦军交战，宇文歆攻下高墌城。同日，秦帝薛仁杲派高墌城人诈降于唐，似高墌城仍属秦，未详是否记载有误，或宇文歆攻下高墌城后未能守住。武德二年（619年）闰二月，正值汉帝刘武周南侵汾、晋，高祖遣女婿殿内监窦诞和时任右卫将军宇文歆助皇子并州总管齐王李元吉守晋阳。李元吉与窦诞游猎，踩踏百姓庄稼，又放纵左右夺百姓之物，当街射人，观看人们避箭。百姓愤怨，宇文歆屡次劝谏不被采纳，就上表奏明李元吉所为，李元吉获罪免官召回京城，但很快复职。八月，刘武周进逼并州，李元吉弃城