En un comienzo fue parte de la guardia en las residencias reales de Luis XVI, Klein dejó el ejército en 1787. Durante la Revolución Francesa, se alistó y ascendió rápidamente de teniente a general de brigada; participó en la invasión francesa del suroeste de Alemania en 1796 y formó parte del Ejército del Danubio en 1799. Su caballería jugó un papel fundamental en las batallas de Austerlitz y Jena y Auerstadt. Después de la campaña prusiana, se retiró del servicio activo, se incorporó a la política y desempeñó funciones administrativas en París.