「你的记录会跟着你一辈子，就算去月球也跟到月球，将成为你一辈子的污点！只要你出一点状况，就派你去金门！」预官训结训之后的下部队，1960年1月被派往澎湖西屿砲兵部队，担任步兵四二砲排副排长的职位。1961年陈唐山退伍。在陈唐山服役期间，高中好友蔡同荣与张灿鍙、罗福全等人于1960年在关子岭召开秘密会议，涉及台湾独立，即「关子岭会议」，此时陈唐山正于澎湖服役，未能参与。
海外留学与参与台独运动.役毕之后，陈唐山于1961年与林纯纯结婚，1963年长子陈正杨出生。陈唐山开始考虑前途问题