207年，曹操要征讨在柳城的袁尚，张辽进谏：「许城，是天子所在的地方。现今天子就在许都，曹公北征甚远，若刘表派遣刘备攻击许，佔据它号令四方，您的形势将会大去。」不过，谋士郭嘉却不认为刘表会有所行动，曹操遂继续北伐袁氏。而后，张辽随同曹操北伐，途中遇上乌桓军，张辽斗志昂扬，力劝曹操接战。曹操十分欣赏张辽的斗心，又看见乌桓的军队尚未排成阵形，于是将自己的麾旗授予张辽暂用，任命张辽为前锋出战，乌桓军大惊，单于蹋顿更被张辽所斩。
计略周备.208年，曹操准备南下荆州，先派张辽、