马怀素，字惟白，润州丹徒（在今江苏省镇江市）人。移居江都，少年师从李善。家甚贫，白天砍柴，晚上烧柴读书，遂博通经史。中进士，又中文学优赡科。武则天长安（701年—705年）中期，任监察御史，公正审崔贞慎、独孤讳之事，不惜冒犯张易之兄弟。开元初年，拜户部侍郎，加银青光禄大夫，封常山县公。开元三年，充更日侍读，待遇甚厚，后官秘书监，兼昭文馆学士，奉旨与褚无量编辑《群书目录》，七年，书未成而卒，由元行冲接任。谥曰文。