绩，迁任小宫尹。宣政初，以皇甫绩前后的功蹟，封义阳县男，拜畿伯下大夫，累转御正下士。
拥护杨坚.北周宣帝生病后，郑译与御正下大夫刘昉谋划让杨坚回京受托。于是郑译宣诏让文武百官都受杨坚指挥调度。御正中大夫颜之仪则和宦官谋划让大将军宇文仲辅政。宇文仲抵达北周宣帝御座前，郑译闻讯后率开府杨惠、刘昉、皇甫绩、柳裘一同入宫。宇文仲与颜之仪见到郑译等人，犹豫后打算离宫，杨坚便逮捕他们。北周宣帝去世后，杨坚揽大权，皇甫绩有功，升任上开府，转任内史中大夫，晋爵为郡公爵，食邑千户。不久被任命为大将