Am 27. Mai 1944 übernahm er bei der 3. Weißrussischen Front (Armeegeneral Tschernachowski) den Oberbefehl der 39. Armee im Raum Witebsk. Die 39. Armee ging südlich der Düna vor, befreite am 27. Juli Dünaburg und stieß weiter auf Schaulen durch. Kaunas wurde am 1. August befreit, danach näherten sich seine Truppen zwischen Raseiniai und Suwałki nördlich des Njemen zwischen der Memel und der Scheschuppe der deutschen Grenze. Ljudnikows Truppen wurden beim ersten Einbruch in Ostpreußen am 10. Oktober erfolgreich auf Tauroggen angesetzt, dann verstärkten sie aus dem Raum Naumiestis antretend den Vorstoß auf Pilkallen. Am 13. Januar 1945 begann die Schlacht um Ostpreußen. Ljudnikow setzte alle Panzer und Selbstfahrlafetten südlich von Pilkallen zum Durchbruch an, der bis 17. Januar etwa 12–16 Kilometer an Tiefe gewann und dann in der Gumbinnen-Insterburger Operation bis 19. Januar an die Deime gelangte. Er beteiligte sich an der Einkesselung von Königsberg, indem er in Samland durch seinen Stoß nach Metgethen die Bahnlinie zwischen Königsberg und Pillau abschnitt. Nach der Eroberung von Königsberg, erzwangen seine Truppen am 16. April die Übergabe von Fischhausen. Damit endeten für seine Truppen die Kämpfe in Ostpreußen, am 5. Mai 1945 wurde er zum Generaloberst befördert. Ab 12. Mai begann die Verlegung der 39. Armee nach Fernostasien, wo sie als Teil der Transbaikalfront die sowjetische Invasion in der Mandschurei vorbereitete. Im August 1945 besetzten Ljudnikows Truppen die Halbinsel Liaodong. Für seine Führung erhielt er den Suworow-Orden 1. Klasse und wurde mit der Medaille „Für den Sieg über Japan“ geehrt.