政府逮捕。释放回台湾后，身体病弱，靠任国民大会代表的薪水及补贴维持生活。1978年，经漳平旅台同乡推选，陈祖康任台湾台北市漳平同乡会第一届理事长。1979年2月25日，陈祖康在台湾病逝，享年76岁。
后代.四分卫乐团主唱陈如山是陈祖康的孙子。