辉参加中国人民解放军。1975年12月加入中国共产党。中国人民解放军国防大学国防研究系战略指挥专业毕业。房开始在新疆军区下辖部队任职多年，历任排长，团、师、军司令部作训参谋，军党委秘书，师司令部作训科长，团参谋长，团长，师参谋长，新疆军区副参谋长。后调兰州军区下辖的陆军第二十一集团军，历任陆军第二十一集团军副军长、军长。知情人士透露，房峰辉在地方部队担任一个师的参谋长时，为给所在部队争取更多粮食配给行贿地方粮食局的局长。他给局长送了一件军大衣，走后局长发现大衣兜里有500元，而500元在当时已是该粮食局长半