随聂荣臻、叶剑英逃往香港，经叶剑英、聂荣臻同意前往泰国与胡志明、黄文欢等在旅泰越侨中开展革命活动，组建“合作会”、“亲爱会”、“越南革命青年同志会”三个支部和一个总支部，领导越侨开荒种植，既维持生计，又为越南革命筹措经费。1928年6月广东省委军委书记聂荣臻通过越南革命青年同志会同洪水取得联系，希望他再次到中国来参加武装斗争。1928年6月，洪水第二次来到中国，经聂荣臻介绍，洪水被派到由彭湃、古大存领导的东江红军工作，任红十一军三十四师连政治委员。带领连队在东山一带活动时，看到敌人的传单上常把共产党说成“洪