有二心，派长孙平前去强行将贺若弼押回长安，取代他镇守寿阳。隋开皇二年（582年）五月，征拜度支尚书。他建议令民间每年秋季每家至少出粟麦一石，贫穷的少一点，在各地设立“义仓”，用以预备水旱灾害。被杨坚采纳。几年后转任工部尚书、襄阳县公，被派往突厥调解达头可汗与都蓝可汗的矛盾，成功后突厥赠送他二百匹马。长孙平回来后将马匹上缴朝廷，杨坚又将其赏赐给他。不久被皇帝降职，以尚书检校汴州刺史。一年后正式任汴州刺史。后历任许州、贝州二州刺史，在任相州刺史时，正月十五日百姓庆贺元宵，穿画成铠甲的衣裳，被杨坚得知，被免职