Kleist sirvió en las Guerras Napoleónicas y combatió en Jena. En 1807 se fue en excedencia pero para 1808 fue puesto al mando de una brigada de infantería y al año siguiento fue hecho comandante de la guarnición de Berlín. Durante la Guerra de Liberación (Sexta Coalición) se le dio un cuerpo de ejército y combatió en las batallas de Kulm y Leipzig. En 1814, se le dio el título de Conde de Nollendorf (del nombre alemán de la ciudad checa de Nakléřov) por su decisivo papel en esta batalla.