Tšernjahovski komensi Kurskin taistelussa 60. Armeijaa heinäkuussa 1943. Sen jälkeen hänet nimitettiin 3. Valko-Venäjän rintaman komentajaksi, kun se oli aloittamassa operaatio Bagrationia. Suurhyökkäyksessä hän johti Minskiä kohti tehdyn pihtiliikkeen oikeaa kärkeä ja hyökkäsi Saksan 3. panssariarmeijan kimppuun Vitebskin lähellä. Myöhemmin hänen armeijansa vyöryivät Liettuaan, valtasivat Vilnan 13. heinäkuuta 1944 ja jatkoivat etenemistä kohti Itä-Preussia. Königsberg vallattiin tammikuussa 1945 ankarien taistelujen jälkeen. Helmikuussa 1945 Tšernjahovski kaatui saatuaan osuman kranaatinsirpaleesta lähellä Mehlsackia. Tšernjahovski haudattiin Vilnaan, hänen nimeään kantaneeseen puistoon, josta se Neuvostoliiton hajottua 1990 siirrettiin Moskovaan. Tšernjahovskin kunniaksi entinen saksalainen "Insterburgin" kaupunki Kaliningradin alueella nimettiin Tšernjahovskiksi.