守丧去职。守丧期满，命令起用就职治事，转任尚书左丞。597年（开皇十七年）、汉王杨谅担任并州总管，皇甫诞担任并州总管司马，作为汉王的辅佐。604年（仁寿四年），隋炀帝即位，征召杨谅入朝，杨谅被王頍劝说、起兵作乱。皇甫诞多次劝谏，杨谅不听将他投入狱中。杨素率军征讨杨谅，杨谅到清源出击杨素。主簿豆卢毓想要把皇甫诞放出狱，夺取并州城，不让杨谅回城。杨谅回军攻破并州太原城，杀害皇甫诞，时年五十一。后炀帝追赠他为柱国，追封弘义公。谥号明。