第一次直奉战争爆发，张作相任东路军第一梯团司令。此后，领导西路的张景惠被直系大败，张作相遂率东路军支援西路军的退却。回到东三省后，张作相任东三省保安总司令部总参议兼第二十七师师长，主导奉军的整备，为报复直系做准备。1924年4月，他继刚病逝的孙烈臣任吉林督军兼省长。同年9月，第二次直奉战争爆发，张作相任镇威军第四军军长，率部参战，击败了直军。1925年12月郭松龄叛乱被镇压后，吴俊陞、杨宇霆主张对参加叛乱的士卒实行严惩，张作相与韩麟春则主张寛大处理。结果，张作霖听从了后者的意见。1927年6月，他任安国