En 1812 Napoleón le reclamó para la Campaña de Rusia, donde dirigió la vanguardia en la marcha hacia Moscú. Como siempre, actuó valientemente en pequeñas escaramuzas, y sobre todo en la sangrienta batalla de Borodinó, donde lanzó una espectacular carga que logró destruir la artillería rusa. Sin embargo la campaña fue un desastre y tras la retirada de Moscú, Napoleón se vio obligado a regresar a París para controlar el Imperio. Antes de su marcha, estableció un cuartel de invierno en Vilna y nombró a Murat comandante en jefe de las tropas en su ausencia. Pero Murat se mostró enseguida incapaz de remediar el descontento de sus soldados, que saquearon Vilna y los cofres del ejército antes de desbandarse. Temiendo un motín incontrolable, Murat abandonó su puesto sin avisar a Napoleón y regresó a Nápoles.