В сентябре 1925 года Эрман Яковлевич Магон был направлен на учёбу в Военную академию РККА, по окончании которой в июле 1928 года был назначен на должность командира и комиссара 76-го стрелкового полка (26-я стрелковая дивизия), находясь на которой, принимал участие в боевых действиях на КВЖД.