Am 1. Juni 1799 wurde Kleist dann zum Oberstleutnant und am 31. Mai 1801 zum Oberst befördert. 1802 wurde er schließlich Regimentskommandeur. Im Krieg nahm er 1806/07 mit seinem Regiment an der für Preußen mit einer Niederlage endenden Schlacht bei Auerstedt teil. Danach wurde sein Regiment von dem allgemeinen Rückzug mitgerissen und in die schimpfliche Kapitulation von Magdeburg eingeschlossen. Am 12. Dezember 1807 erhielt er dann den erbetenen Abschied, den der König Friedrich Wilhelm III. ohne eine Pension bewilligte mit dem Hinweis darauf, dass dieser Abschied aus familiären Gründen beantragt worden sei.