In Deutschland, wo er nach dem Rücktritt des Erzherzogs Karl den Oberbefehl übernahm, focht er jedoch im Feldzugsjahr 1800 unglücklich. Kray reiste am 5. März aus Wien ab und traf am 17. März zu Donaueschingen ein. Die Hauptarmee war noch 95.000 Mann stark und lagerte zwischen Liptingen und Stockach. Nach den Niederlagen bei Engen (3. Mai), Stockach und Meßkirch (5. Mai) gegen die französische Armee unter Moreau zog sich Krays Armee zunächst auf gut gesicherte Stellungen bei Ulm zurück. Nachdem das französische Korps Lecourbe Ende Mai Augsburg besetzt hatte, wagte Kray einen Angriff auf den zwischen Biberach und Memmingen stehenden linken französischen Flügel. Krays Truppen wurden jedoch am 5. Juni bei Erolzheim und Ochsenhausen geschlagen und zogen sich wieder nach Ulm zurück. Die Niederlage in der Schlacht bei Höchstädt am 19. Juni 1800 und der gelungene Donauübergang Moreaus zwang Kray, seinen befestigten Standort Ulm zu verlassen und in Richtung Ingolstadt zurückzugehen. Kray rückte am 20. Juni unter Zurücklassen einer Besatzung von etwa 12.000 Mann unter Petrasch aus Ulm ab und zog nach Nördlingen. In der Nacht vom 24. auf den 25. Juni setzte Kray den Rückzug bis Neuburg an der Donau fort. Moreau ging auf das rechte Donauufer zurück, die drohende Besetzung Münchens sollte Kray zum Rückzug hinter den Inn zwingen. Der durch Kray bewilligte Abschluss des Waffenstillstands bei Parsdorf am 15. Juli beendigte seine militärische Karriere.