须展开武力行动对抗蒋中正，决心成立一支台湾人的武装部队，这吸引同样不满二二八事件的青年。从1950年2月起，他与周洁、黄元秘等人集合当时在二二八事件倖存的30多名有志青年，在台北市郊外的山上秘密组织「台湾独立革命武装队」。这批武装部队在台北市士林外双溪和草山、苗栗县大湖和南庄等地，蒐集日本军留下来的20多把步枪武器，并预藏在阳明山后的施家柑园，准备发动武装革命，准备伺机开枪暗杀「将台湾当作殖民地统治」的蒋中正。1951年底，因为枪枝被中国国民党政府发觉，刺杀蒋中正的反抗行动失败，主导计划的史明遭