不得不返回京都。治承5年（1181年）闰2月4日，平清盛死去，知盛的同母兄平宗盛继承了平家家督的位置，知盛与弟弟平重衡一起辅佐宗盛。同年10月，平家的远征军编制完成，准备大举讨伐盘踞东国的源氏。北陆道一路知度、清房（宗盛的异母弟）、重衡、资盛率领；东海道和东山道一路由维盛、清经（重盛之子）率领；熊野一路由赖盛的两个儿子；而最重要的洛中（指京都）由宗盛、教盛、经盛、赖盛和知盛一起负责镇守。（《玉叶》10月10日条）。此时，平知盛负责留守京都，是决策战事的实际总指挥者。寿永2年（1183年）2月，平宗盛辞去