杨坚称帝后，贺若谊授上大将军。开皇二年（582年）除右武候大将军，河间王杨弘北征突厥，贺若谊为副元帅。军还，转左武候大将军。坐事免。岁余，拜华州刺史，俄转敷州刺史，改封海陵郡公，复转泾州刺史。时突厥屡为边患，朝廷以贺若谊素有威名，十二年（592年），除灵州总管、灵州刺史，进位柱国。贺若谊时已73岁，但他筋力不衰，犹能穿着重铠上马，突厥对他极为忌惮。数年后，贺若谊以年老上表乞骸骨，隋文帝下诏允许他回京养老。开皇十六年（596年）春二月在家中去世，年七十七，谥曰威公。贺若谊家中富裕，他在京城郊外建了一座别