入潘佩珠的越南光复会，进入云南陆军讲武堂学习，成为该组织在中国的一名代表以及重要军事领导人。1925年潘佩珠被捕后，光复会解散。1926年起，阮海臣担任黄埔军校政治部事务股长、政治教官。后来参加了北伐战争，随军到武汉。1942年10月1日，阮海臣与张佩公、严继祖、武鸿卿等人在柳州成立越南革命同盟会，阮海臣被推举为越革的常务委员和秘书组组长。他与不少中国官员、越南革命家的关系密切。胡志明在中国广西被扣押，阮海臣通过自己与蒋中正的良好关系游说蒋中正，最终蒋中正下令将胡志明释放；胡志明后来率越南共产党加入了越