В декабре 1943 года был назначен на должность командующего 4-й ударной армией, которая к концу 1943 года вышла в район северо-западнее Витебска, где перешла к обороне. Летом 1944 года армия принимала участие в операции «Багратион». Особенно проявились высокие командирские качества Петра Фёдоровича Малышева в ходе Полоцкой наступательной операции. Армия, действуя на главном направлении 1-го Прибалтийского фронта, прорвала укреплённую оборону противника, разгромив часть сил 16-й армии и выйдя в район северо-западнее Полоцка. Во второй половине 1944 года армия принимала участие в Режицко-Двинской, Рижской и Мемельской наступательных операциях, после чего участвовала в блокаде группы армий «Север», 26 января 1945 года преобразованной в группу армий «Курляндия». В конце января — начале февраля 1945 года силами армии с частями усиления была проведена фронтовая наступательная операция по разгрому группировки противника в районе Клайпеды.