记室越级升任吏部郎。皇甫玚个性贪婪，收受了很多贿赂，买卖官吏职务，都有定价，后来因为是丞相、高阳王元雍的女婿，越级出任持节、冠军将军、豫州刺史。皇甫玚行政残忍凶暴，老百姓憎恨他。皇甫玚从豫州刺史任期届满后，因为患上风病。很久之后，出任安南将军、光禄大夫。太昌初年，皇甫玚去世，虚岁五十八。朝廷赠予卫大将军、尚书左仆射、雍州刺史。