Estudió magisterio en Essen hasta 1913. Con el estallido de la Primera Guerra Mundial, Zaisser se alistó en el ejército alemán. Miembro del Partido Socialdemócrata Independiente de Alemania (USPD), al retornar de la guerra se incorporó como profesor en Essen. Después del golpe de Kapp contra Friedrich Ebert lideró el Ejército Rojo de Ruhr, por lo que fue arrestado en 1921 y debió abandonar la plaza de profesor. Ingresó en el Partido Comunista de Alemania (KPD) donde se mostró muy activo en la divulgación de los ideales de la organización. Más tarde entró a formar parte de la inteligencia del partido trabajando activamente contra la ocupación francesa del Ruhr. Ese mismo año viajó a Moscú donde se le formó militar y políticamente, regresando a Alemania en 1924 para incorporarse al Comité Central del partido. Trabajó con el Ejército Rojo y los servicios de inteligencia de la Unión Soviética, siendo ayudante militar de la URSS en Siria y el norte de África primero, para pasar posteriormente a trabajar para el "Komintern" en China y Checoslovaquia. En 1932 ingresó en el Partido Comunista de la Unión Soviética (PCUS), adquiriendo la nacionalidad soviética en 1940.