1924年（民国13年）9月，他被授予胜威将军。同年第二次直奉战争中，北京政变爆发，胡景翼参加了冯玉祥率领的国民军并任副司令兼第2军军长，岳维峻任国民军第2师师长。同年12月，胡景翼任河南督军并进入河南，岳维峻跟随胡景翼。此后，陕西督军刘镇华手下的憨玉琨同胡景翼争夺地盘，爆发了「胡憨之战」，岳维峻参战，为击破刘镇华、憨玉琨的军队作出了贡献。战斗胜利后的1925年（民国14年）4月10日，胡景翼突然因病去世。岳维峻继承了胡的地位，任国民军第2军军长兼署理河南督办。此后，在北方各派的支援下，刘镇华进行反