初年为卫州刺史。河北经常被突厥骚扰，当时是秋季而一直筑城，晖曰：「金汤非粟不守，岂有弃农亩，事池隍哉？」使民工返回务农，该部赖此安定。迁夏官侍郎，出为泰州刺史，大足元年（701年）迁洛州长史。武后幸长安，为东都副留守，以治理干练知名，玺书劳之，多赐物缎。长安三年（703年），拜中台右丞，加银青光禄大夫。神龙元年（705年），转左羽林将军，与凤阁侍郎张柬之、鸾台侍郎崔玄暐、右羽林将军桓彦范、司刑少卿袁恕己等人交结，趁着武则天病重无备，发动禁军攻打大内，诛杀武则天的男宠张易之、张昌宗，逼迫则天禅让帝位，唐中