李世民发动玄武门之变，即位为唐太宗，改元贞观。与此同时，东突厥重新崛起，屡次犯边，成为唐朝的一大威胁。贞观元年（626），唐太宗拜李道宗为灵州大都督，具有很大的军事自主权。贞观二年（628），唐太宗将其他大都督府的“大”字去掉，仅留下朔方大总管府。李道宗经略灵州，治军有方，先后参与对吐谷浑、突厥、薛延陀的远征，并逐一攻灭，手下军队为后来朔方军的前身。灵州大都督府这一建制一直保留到西夏时期。武则天延载元年(694年)，为征讨后突厥汗国可汗默啜的入侵大军，唐朝设置了朔方军的前身——朔方道行军大总管。