桓军无序，曹操立即命令曹纯、张辽率兵冲锋，张辽兵分三路，徐晃、于禁、许褚各领一路。击败乌桓。208年，曹操平定北方后，立即开始在军事上和政治上准备向南用兵，派遣张辽、于禁、乐进等驻兵许都以南的颍川郡。虽然三人都驻紥在不同的县内，但彼此不和，曹操于是命赵俨参三军军事，事事都有训喻，令到三人和睦。后于禁与张辽作为督军赵俨护送的七军之一参与了赤壁之战。
迁左将军 假节钺.建安十四年（209年），庐江人陈兰、梅成在灊县、六县一带造反，曹操派遣于禁、臧霸等讨伐梅成，而张辽则督张郃、牛盖等