Le 19 août, alors que Gudin visite un monument religieux sur la rive droite du Dniepr en compagnie de l'Empereur, un aide de camp du maréchal Ney les informe que les troupes de ce dernier sont tenues en échec par l'arrière-garde russe, solidement retranchée sur le plateau de Valoutina Gora. Des renforts étant réclamés pour enlever la position, Napoléon ordonne à Gudin de se porter de toute urgence avec sa division sur le théâtre des combats. À son arrivée, le général s'entretient avec Ney et lui conseille d'attendre la fin de la manœuvre d'enveloppement conduite par Junot pour lancer une nouvelle attaque. Ses observations sont mal accueillies et un vif dialogue s'engage entre les deux hommes, que Gudin conclut par cette réplique : . Au moment où la division vient de culbuter le centre de la colonne russe et est sur le point de s'emparer de la position ennemie, il est frappé d'un boulet de canon qui lui emporte une jambe et blesse grièvement l'autre. Il meurt à Smolensk le 22 août 1812, des suites des blessures reçues à la bataille de Valoutina, après avoir reçu la visite de l'Empereur à son chevet.