为反击国民党屠杀中共党员的政策，中共中央指示中共广东省委发动广州起义，成立起义总指挥部——行动委员会。黄锦辉担任指挥部成员，他也是中共广州市委军委书记。与聂荣臻、张太雷、周文雍、杨殷等人一起深入教导团、警卫团与工人赤卫队积极进行起义前的动员准备工作，参加编写起义政纲宣言、制订起义的具体计划。1927年12月11日凌晨，广州起义打响，黄锦辉和杨殷率领敢死队到北校场第四军教导团的驻地，配合教导团攻下了广州市公安局。接着他俩又指挥西关地区的战斗，经过两小时激烈的巷战，起义军占领了广州大部分地区，成立广州苏维埃政府。张太雷任苏维埃政府主席，黄锦辉仍任中共广州市委军委书记，杨殷任人民肃反委员会委员。12日中午，苏维埃政府在西瓜园举行工农兵庆祝大会，会后张太雷中弹阵亡，杨殷接任广州苏维埃政府代理主席，叶挺、黄锦辉、杨殷、聂荣臻、周文雍等率领革命军反击国民党反击，当晚10时后起义军决定撤出广州。黄锦辉仍留在城内组织撤退断后，国军反攻占领广州后，他撤到香港。