皇甫绩为侍读。建德初，皇甫绩转任宫尹中士。北周武帝在云阳宫避暑，当时北周宣帝宇文赟为太子监国。卫剌王叛乱，城门已被关上，百官大多都逃难。皇甫绩听闻后前往赴难，在玄武门遇到宇文赟，宇文赟拉着皇甫绩的手，悲喜交集。北周武帝听闻此事嘉奖皇甫绩，迁任小宫尹。宣政初，以皇甫绩前后的功蹟，封义阳县男，拜畿伯下大夫，累转御正下士。
拥护杨坚.北周宣帝生病后，郑译与御正下大夫刘昉谋划让杨坚回京受托。于是郑译宣诏让文武百官都受杨坚指挥调度。御正中大夫颜之仪则和宦官谋划让大将军宇文仲辅政。宇文仲抵达