开始反攻，德军开始撤退。1943年11月舍尔纳负责指挥第20装甲军，在前期舍尔纳一再率部击退苏军的进攻，但到了1944年1月苏军突破第30军的防守，使得全军有被包围的危机，但他还是坚守1条3公里的撤退路线，全军逃过被围歼的命运。另外还有希特勒要求他坚守第聂伯河东岸的桥头堡，但舍尔纳与其部属皆认为不可行，不惜违反命令撤出该处。1944年2月17日舍尔纳的骑士铁十字勋章被加上了「橡叶」。舍尔纳在指挥在指挥罗马尼亚军团时，将其与德军防线连结起来，使扬·安东内斯库（罗马尼亚军事最高权力者）无法单独撤离自己的军队