别部人，祖何庆、父何怀福都是唐末河东节度使李克用的小校，在河东军部太原安家。何重建年轻时谨厚，效力石敬瑭帐下，管马厩，为奉德马军都指挥使。
效力后晋.石敬瑭建立后晋为高祖皇帝后，何重建屡次典禁军，历任遥领驩、睦二州刺史、实领曹州刺史。天福七年（942年）正月，彰武军节度使丁审琪贪暴，胡人为其所苦，部下军校贺行政与胡人勾结作乱，攻军部延州，何重建时任曹州防御使，奉命率兵救之，同、鄜二州援兵也来到，延州得救。何重建以所部兵攻延州，丁审琪遁去。二月，后晋高祖以何重建暂代彰武军兵马