Después del final de la Primera Guerra Mundial, Kleist se unió a los "Freikorps "y participó en las guerras de independencia de Letonia y Estonia como miembro de la División de Hierro (véase Freikorps en el Báltico). En junio de 1919, dirigió un grupo de ataque durante laBatalla de Cēsis.