抗战胜利后，胡志明在越南发动八月革命，印度支那共产党再次向中国共产党提出，希望洪水等越南同志尽快回国参加斗争。为回国后能更好地发挥作用，洪水和其他即将回国的越南同志抓紧做好各方面的准备工作。洪水还把毛泽东的《论持久战》和《中国革命与中国共产党》等著作翻译成越南文字。毛泽东临别赠言：“你到了越南，一定要和越南同志搞好团结。”为了避免累赘，规定返回越南的同志一律不准带家属小孩回越南。1945年11月初，洪水回到河内后，为适应越南的斗争和工作环境改名阮山，被任命为越南南方抗战委员会主席兼第五、六两个战区司令员和政治委员，负责越南南方的抗法战争。。1946年，在胡志明的支持下，阮山在广义省创办了越南人民军历史上第一所正规的军事学校——广义陆军学校，并担任校长。1947年初，临危受命，到连接北方和南方两个战场的第四战区司令员兼政委。撰写了不少军事著作，特别是《战术》和《越南革命的战略力量——民兵》两部著作。1948年1月，胡志明颁布向军队领导干部授予军衔的政令。在授予武元甲大将军衔的同时，授予阮平中将军衔；授予阮山、铁雄、朱文晋、黄参、黄文泰、黎献梅、文进勇、陈大义、陈子平等少将军衔。