少以文学名，后晋天福中进士。后周时任右拾遗、直史馆、知制诰。当时其从弟扈载为翰林学士，号称二扈。入宋后由中书舍人迁翰林学士，干德六年复知制诰，充史馆修撰。典章仪注，多由扈蒙所定。开宝六年（973年）与薛居正、李穆、李九龄、张瞻、刘兼、卢多逊等同修《五代史》，又与李昉等同编《文苑英华》。