杨师道是隋文帝族侄观王杨雄的儿子，杨雄和高颎、虞庆则、苏威在隋朝初年并称四贵。杨师道的哥哥杨恭仁历事隋唐二朝，并且是唐高祖的宰相。隋末大乱，杨师道在东都洛阳曾一度被王世充扣留。之后，杨师道离开洛阳，投奔在长安建立唐朝的李渊。621年九月，东突厥入侵灵州（今宁夏灵武），杨师道为灵州总管，击破东突厥的进攻。622年九月，交州刺史权士通、弘州总管宇文歆、灵州总管杨师道在三观山击破突厥。加之杨恭仁是唐高祖的老友，所以唐高祖加授杨师道上仪同，为备身左右，将第五女桂阳公主嫁给了他。624年，太子李建成的部将杨文干