Il fait la sélection des soldats pour former une division de grenadiers dans le corps de Lannes qui est surnommée « la colonne infernale ». Il faut peu de temps à ces soldats d'élite pour être connus sous le nom de « grenadiers d'Oudinot ». Grand aigle de la Légion d'honneur en 1805, il part du camp de Boulogne à la tête de , s'empare de Vienne comme en passant, au bout de 45 jours de marche, se présente au pont du Danube que défendent 180 pièces de canon, arrache la mèche du premier canonnier autrichien, passe le fleuve, occupe la rive opposée avec sa division, et force à capituler toutes les troupes ennemies qu'il rencontre. Blessé à Wertingen il est remplacé par Duroc. Après avoir participé aux combats d'Amstetten, Oudinot, blessé encore une fois à celui de Hollabrunn, assiste, quoique convalescent, à la bataille d'Austerlitz, où il cueille de nouveaux lauriers. En 1806, il prend possession des comtés de Neuchâtel et de Valangin, puis il entre à Berlin.