晖开始接受军事专业训练。1965年，毕业于哈尔滨军事工程学院导弹工程系地空导弹总体设计专业，同年12月加入中国共产党。之后一直在解放军中服役，任空军高射炮兵独立四师三营一连引导技师，1972年任空军驻国营761厂军工产品质量检验军事代表，同年9月，祖母何香凝病逝。1975年任北京军区空军司令部高射炮兵处参谋，1980年任总参谋部装备部科技处副团职参谋。1983年6月，父亲廖承志病逝，41岁的廖晖被调至国务院继承父亲侨务办公室副主任职位，从副局级跃升副部级。一年后，又晋升国务院侨务办公室主任，成为当时最年