学博士西城何妥说：“昔日帝喾有四个妃子，虞舜有两个妃子。之前朝代的后妃数量，哪里有固定的呢？”周宣帝非常高兴，将辛彦之免官。隋文帝杨坚接受禅让后，辛彦之担任太常少卿，改封任城郡公，进位上开府，很快转任国子祭酒。一年多以后，辛彦之担任礼部尚书，与祕书监牛弘撰写新的礼仪。吴兴郡沈重被人称为大学者，隋文帝曾经命令尝令辛彦之与沈重谈论学问。沈重不能抗衡，于是离开座位道歉说：“辛君的辩论是所谓的金城汤池一样坚固，没有可以进攻的形势。”隋文帝非常高兴。辛彦之后来担任随州刺史，当时州刺史大多向