黄锦辉在委员会里出谋献策，并出版《中国军人》杂志。由于黄锦辉等人的出色宣传，以及善于团结军校和各军的革命军人，青年军人联合会声威日振。五卅运动爆发后，黄锦辉于8月代表中国青年军人联合会到省港罢工工人代表大会上发表演说。1926年5月，黄锦辉离开国民革命第一军，与麻植、朱锁、聂荣臻等人在中共广东区委协助周恩来工作。7月，北伐开始后，黄锦辉成为中共广东区委的领导成员之一。1927年4月，国民党大肆捕杀中共党员，黄锦辉将军队系统内的共产党员撤出广州，转入地下活动。月底，黄锦辉赴武昌出席中国共产党第五次全国代表