958年张学思毕业回国，任海军第一副参谋长、参谋长。林彪担任国防部长后，开始在军队中安插自己的手下并排除异己。张学思与林彪的矛盾越来越大，文化大革命前一年曾向周恩来提出调动到负责造船的六机部，但被拒绝。
文化大革命中.“文化大革命”开始后不久，因东北帮叛党投敌反革命集团案爆发，张学思遭到非法关押。1968年2月18日晚张学思因病入院。经诊断为全身血行播散性结核、肺原性心脏病、重度营养不良。1970年5月29日去世。