La Grande Armée fut dissoute à l’occasion de l'entrevue d'Erfurt entre Napoléon et le tsar, du 27 septembre au . Napoléon avait besoin de renforcer ses troupes engagées dans la guerre d'Espagne et du Portugal, où elles venaient de subir d'importants revers (la capitulation de Baylen en qui élimina la menace française en Andalousie et la défaite de Vimeiro, suivie de la convention de Cintra en , qui marqua l'évacuation du Portugal). Napoléon devait ainsi retirer des contingents d'Europe centrale pour renforcer l'armée d'Espagne dans la perspective de l'offensive qu'il avait décidé de diriger en personne à partir de début . Il profita de ces mouvements de troupes pour tenter d'apaiser les inquiétudes du Tsar Alexandre : des troupes françaises tenaient encore garnison en Prusse et à Dantzig. Le décret d'Erfurt daté du précise d'une part que « le corps de troupes qui restera en Allemagne prendra le nom d’armée du Rhin », sous commandement du maréchal Davout et que d'autre part « le corps de troupes qui restera sous les ordres du maréchal prince de Ponte-Corvo [le maréchal Bernadotte], dans les villes hanséatiques, prendra le nom de corps de troupes du gouvernement des villes hanséatiques ». Le nom d'armée du Rhin devait suggérer que cette armée tiendrait désormais une position défensive sur cette frontière de l'Empire français que constituait le Rhin, et non une position offensive en Allemagne ou en Pologne. Beaucoup de soldats issus de la Grande Armée de 1805-1808 mourront dans la péninsule ibérique durant les sept années de conflit (1808-1814).