先，元成宗时中书平章政事。太原（今山西省太原市）人，金朝灭亡，徙家广平路（治今河北省邯郸市永年区东南）。金朝贞祐间何荣祖试文法人优等补吏，后授明威将军。何荣祖世代为吏，他初为中书省吏，后任职御史台，由治书侍御史，出为山东按察使。转任安西行省参政，拜御史中丞。出为山东东西道按察使。元世祖至元二十五年（1288年），担任中书省参知政事，次年改为尚书省参知政事。桑哥专权，搜刮天下钱财，何荣祖甚为不满，称病告退。至元二十八年（1291年），桑哥事败，起为尚书右丞，昭文馆大学士，改为中书右丞。奏请召各省财政官员到