Родился в крестьянской семье, у него было два брата и две сестры. Все родственники Иогана, как и он сам, с конца 1910-х годов активно участвовали в политической борьбе на стороне крайне левых сил, в том числе принимали участие в восстании на Сааремаа в феврале 1919 года и Перводекабрьском восстании 1924 года в Таллине. Его сестра Мария погибла во время восстания в 1919 году, а брат Антон погиб в 1924 году. Сам Иоган и его старший брат в 1924 году были приговорены к длительным срокам заключения.