失败后，杨宇霆被任命为东三省保安司令部总参议，负责整顿军事，使奉军的战斗力大为提高。1924年9月，爆发第二次直奉战争。奉军在打败直系军阀吴佩孚后，占据直隶，又南下据有江苏、安徽两省。杨宇霆被任命为江苏军务督办，进入南京。不久，奉军遭到浙江军务督办孙传芳和江苏陈调元等的武装袭击，败回山东。杨宇霆回到奉天，继续任总参议兼东三省兵工厂督办。1925年10月，张作霖之子张学良的恩师、曾任奉天讲武堂的教官郭松龄起兵反奉，郭素遭杨宇霆排挤，亦为郭兵谏之因，郭随即被奉军讨死，杨宇霆甚喜，张学良从此深恨杨宇霆。