消灭薛仁果、薛举、李轨、宋金刚、刘武周、王世充、窦建德、萧铣、杜伏威和梁师都等割剧势力。最后一个梁师都是在贞观二年（628年）被平定的，此时他早已经将皇帝位让给次子李世民了。同时他又利用东突厥和西突厥之间的分裂，维持了北方的边界，这是他有力量能够夺取中原的主要条件（参见唐与突厥的战争）。在官制上李渊于武德七年（624年）颁布了唐的官僚制度，基本使用了隋的制度。在农业方面他于武德七年（624年）颁布均田制；对税捐他也做了调节，减轻了受田农民的负担。在法律上他废弃了隋炀帝的许多苛政，颁布了武德律。李渊对