任太原钢铁集团总工程师。2008年5月，任太原钢铁集团副董事长、总经理。2011年7月，任中共大同市委常委（正厅长级），8月兼任大同市副市长。2012年1月，任山西省经济和信息化委员会党组书记，同年3月任主任。2013年7月，任中共晋中市委副书记、晋中市人民政府代市长（2014年3月正式当选市长）。2016年7月，任中共晋中市委书记。2018年1月，时任晋中市委书记的胡玉亭在山西省政协十二届一次会议就坐主席台，可见已经跻身副省级干部行列。2018年2月24日，当选为第十三届全国人大代表。2018年2