奉军的整备，为报复直系做准备。1924年4月，他继刚病逝的孙烈臣任吉林督军兼省长。同年9月，第二次直奉战争爆发，张作相任镇威军第四军军长，率部参战，击败了直军。1925年12月郭松龄叛乱被镇压后，吴俊陞、杨宇霆主张对参加叛乱的士卒实行严惩，张作相与韩麟春则主张寛大处理。结果，张作霖听从了后者的意见。1927年6月，他任安国军第五方面军军团长（9月兼东省铁路护路军总司令），守备东北后方。
吉林省政.1928年6月4日皇姑屯事件后，张作相拥立张作霖之子张学良继位，张学良宣佈东北易帜