5年（民国14年）10月，吴俊陞奉张作霖之命，袭击位于冯玉祥军队后方的多伦、张家口方面。11月20日，奉系将领郭松龄联络冯玉祥，发动兵变。12月23日，吴俊陞在巨流河击败了郭松齢，并将其逮捕处决。当时，吴俊陞和杨宇霆主张杀掉参加叛军的奉军官兵，张作相和韩麟春则要求对这些官兵宽大处理，最后张作霖听从后者的意见。
和张作霖同死.1926年（民国15年），为应对中国国民党的北伐，吴俊陞和张作相主张保境安民。张作霖、张宗昌则持强硬意见。同年12月，张作霖被张宗昌、孙传芳拥立为安国军总司令。