往见曹操。曹操先遣昌豨回去东海，随即训责张辽说：「莽然只身赴敌巢穴，这不是大将的所为。」张辽答道：「凭着明公昭着四海的威信，我既然奉旨前往，相信昌豨必不敢加害，因此我才会这样做。」
驱弱敌强.203年，张辽随曹操到黎阳讨伐袁谭、袁尚联军，因战功而晋升为中坚将军。但袁尚坚守邺城，久攻不下，曹操便返回许都，命张辽和乐进攻下了阴安，迁徙当地居民到河南。204年随曹操成功攻下邺城，又转攻赵国、常山，招降缘山多个贼军及黑山贼孙轻等。205年，随曹操成功讨灭袁谭，攻下海滨，并击败辽东的贼兵