926年起，阮海臣担任黄埔军校政治部事务股长、政治教官。后来参加了北伐战争，随军到武汉。1942年10月1日，阮海臣与张佩公、严继祖、武鸿卿等人在柳州成立越南革命同盟会，阮海臣被推举为越革的常务委员和秘书组组长。他与不少中国官员、越南革命家的关系密切。胡志明在中国广西被扣押，阮海臣通过自己与蒋中正的良好关系游说蒋中正，最终蒋中正下令将胡志明释放；胡志明后来率越南共产党加入了越革。不过，由于越革各方势力的争权夺利，该政党的活动长期处于停滞状态。1945年，胡志明率领越盟发动八月革命，推翻保大帝，建立越南民