濂因此被尚书斥责，皇甫濂对他说：「您掌管国政，却放纵奸人违法，难道还要夺走官员执法的职责吗？」尚书听后肃敬的向皇甫濂赔罪。受考核后，皇甫濂被贬爲河南布政使司理问，后任福建兴化府同知。嘉靖四十三年（1564年）皇甫濂患痢疾，在任内去世。皇甫濂与兄皇甫沖、皇甫涍、皇甫汸并称“皇甫四杰”，又与同里人张凤翼、张燕翼、张献翼三兄弟并负才名，吴人称「前有四皇，后有三张」。
着作.着有《水部集》二十卷、《逸民传》二卷、《老子道德经辑解》、《皇甫理山集》等