张翼说：“不能！蛮夷因我而反乱，不称职而被召回，我刚到战场，应该运粮积谷，做好消灭刘胄的准备，岂能因为罢免公职原因而耽误朝廷之事。”于是统领不松懈，让马忠代任到后才出发。马忠因为张翼的准备而消灭刘胄，诸葛亮听后极为赞许。建兴十二年（234年），随诸葛亮北伐，诸葛亮出兵到武功，以张翼为前军都督，领扶风太守。是年八月，诸葛亮病逝，张翼被任命为前领军。其后因此前征讨刘胄之功，赐爵关内侯。
亢维之锐.延熙元年（238年），张翼入朝为尚书，不久又迁督建威，假节，进封都亭侯，征西大将军。