2 апреля 1944 года генерал-полковник Гордов назначен командующим 3-й гвардейской армией 1-го Украинского фронта. Во главе армии участвовал в Львовско-Сандомирской и в Сандомирско-Силезской наступательных операциях, а также в осенних сражениях 1944 года за Сандомирский плацдарм. В ходе Верхнесилезской наступательной операции 3-я гвардейская армия, действуя на острие главного удара, прорвала оборону немецких войск и разгромила противника в районе города Кельце.