辽求情，曹操便待张辽以上宾之礼。张辽感其恩情，于是投降，自此成为曹操将领。第二十五回中，曹操在下邳城外的土山上包围关羽，张辽请缨劝说关羽暂降曹军，以报关羽白门楼相救之恩。关羽降曹期间，张辽一直担任曹操与关羽之间的协调者与斡旋者。后来关羽过五关斩六将，被夏侯惇追赶纠缠，亦赖张辽赶至拆解二人纷争，让关羽可以顺利离开曹营。张辽跟随曹操后，一直随军征讨，不久参与官渡之战，先后大战张郃，斩蒋奇，大败袁尚、沮鹄。在追击袁熙、袁尚时张辽受曹操任命，秉持军麾，担任首将，率领许褚、于禁、徐晃迎击乌桓军，张辽更亲斩乌桓单-{于