葬仪上，周宣帝想要早葬，斛斯征依礼法主张七月安葬、宣帝不听。他反对採用郑译献上的新乐。上疏极谏，指出宣帝的过失，宣帝接受郑译的诬告，将他下狱。狱卒张元可怜他，用佩刀挖墙把他放出去。张元被拷问，但什么也没说。斛斯征后来遇赦免罪。581年（开皇元年），隋文帝即位，斛斯徴官复原职，任太子太傅，隋文帝命他编纂《乐书》。584年（开皇4年）斛斯征去世。享年五十六岁。着作《乐典》十卷。其子斛斯该嗣位。