那些不愿受日本人统治的蒙古青年离开了东蒙地区，或去投奔在德王主导下开展民族自治运动的内蒙古西部地区，或去了外蒙古。在日本统治满洲期间，东蒙古民族自治运动不得不转入地下。1932年在从莫斯科东方大学回来的朋斯克、特木尔巴根等人的影响下，哈丰阿秘密加入内蒙古人民革命党。为了更有效地管控东蒙地区和安抚那些留下来的蒙古青年活跃分子，日本人将哈丰阿这些青年活动家们安排在满洲国的军政部门工作。1933年哈丰阿先后入兴安西省、兴安局、国务院总务厅、兴安总省公署任秘书、参事官；1941年初直至1943年夏，作为外交官被