En 1932 Kramer emigró a la Unión Soviética y trabajó en el "Instituto Central de Investigación de Transportes" de Moscú. En 1937 superó un curso de "Tácticas militares" en la Escuela militar del Ejército Rojo en Tambov. Participó en la Guerra civil española como voluntario en las Brigadas internacionales y llegó a ser jefe de ingenieros de la XI Brigada Internacional, unidad donde se agrupaban los voluntarios alemanes. Tras la derrota republicana, en 1939 fue internado en un campo de concentración francés de Saint-Cyprien, en el departamento de los Pirineos Orientales, y regresó a la Unión Soviética, donde trabajó para las emisiones alemanas de Radio Moscú. Después del ataque alemán a la Unión Soviética, fue enviado a Samara (Kuybyshev) en octubre de 1941 junto con otros emigrantes comunistas alemanes.