杨岳跟随异母大哥杨素进攻北齐，立下战功。尉迟迥之乱时，杨素击败荥州刺史宇文胄的叛军，封清河郡公，杨素的临贞县公爵位转给杨岳。开皇元年五月三日（581年6月20日），杨岳获封遂州苍山县开国公，食邑一千三百户。开皇二年（582年）六月，杨岳出任右武卫右亲卫。仁寿二年（602年）正月，杨岳母亲萧妙瑜去世，杨岳为母亲守丧。大业元年（605年）二月，杨岳出任卫尉寺丞。大业四年（608年），杨岳出任京兆万年县县令。杨素去世后，杨岳经常劝说侄子杨玄感要小心谨慎。太子太保、司空、宋国公贺若弼是杨岳的姑表兄，杨岳通过贺若弼上