从晖和后周大同节度使白承福、辽朝云州观察使白可久同宗，他年少就以勇敢、多谋略见称。最初他曾在后唐天成元年（926年）担任怀远指挥使，后在后晋担任冀州刺史，在衡水击败契丹而知名。干祐四年（951年），世祖刘旻称帝，命刘钧（后来的睿宗）攻后周晋州，白从晖和李存瓌则担任副招讨使，最后无功而还。之后白从晖获授义成节度使，潞州之役中担任行军都部署，和前锋都指挥张元徽自团柏济师。高平之战，张元徽阵亡，他也病死。