Im Juni 1792 trat der junge Kleist getreu seiner Familientradition in das 3. Bataillon des Garderegiments zu Potsdam als Gefreiter-Korporal ein. Unter Generalinspekteur Ernst von Rüchel nahm er am Rheinfeldzug gegen Frankreich sowie an der Belagerung der ersten bürgerlichen Republik auf deutschem Boden in Mainz teil. Trotz wachsender Zweifel am Soldatendasein verblieb Kleist im Militär und wurde 1795 zum Fähnrich und 1797 zum Leutnant befördert. Privat jedoch nahm er zusammen mit seinem Freund Rühle von Lilienstern mathematische und philosophische Studien in Potsdam auf und erwarb sich den Universitätszugang. 1797 verkauften er und seine Geschwister den ererbten väterlichen Besitz, das kleine Rittergut Guhrow im Spreewald, für 30.000 Taler, wovon er nach seiner Großjährigkeit im Oktober 1801 über ein Siebtel verfügte.