虽以杀头也不能制止。张离也率领二千龙腾卫士准备迎接石遵。刘太后召张豺来到宫中，对他哭诉：“先帝梓宫未殡，而祸难至此！今嗣子冲幼，托之将军；将军将若之何？欲加遵重位，能弭之乎？”张豺十分害怕，只是说：“唯唯（是的是的）。”刘太后下诏，任命石遵为丞相，兼领大司马、大都督、督中外诸军，录尚诸事，加黄钺、九锡。五月十四日，石遵抵达安阳亭，张豺出来迎接，被石遵拘拿。五月十五日，石遵进入邺城，在平乐市杀了张豺，灭三族。