W okresie od 22 lipca 1797 do 21 lutego 1799 roku pełnił funkcję ministra wojny. Po wybuchu wojny z II Koalicją ponownie objął dowództwo Armii Włoskiej. Odniósł zwycięstwo pod Pastrengo 26 marca, ale nie był w stanie powstrzymać postępów wojsk koalicyjnych. Został pokonany przez austriackiego gen. Pála Kraya w bitwie pod Magnano 5 kwietnia. Następnie zmuszony do odejścia na emeryturę, zastąpił go gen. Jean Moreau. Schérer musiał tłumaczyć się z klęski i utraty Włoch przed komisją śledczą. Następnie jako emeryt osiadł w rezydencji Chauny w Pikardii, gdzie zmarł w roku 1804.