清担任中国科学院党的核心领导小组成员。1977年12月23日，中央军委任命刘华清为国防科委副主任。
改革开放.1979年2月，刘华清担任解放军总参谋长助理。1980年任副总参谋长，并率团出访美国参观美国海军小鹰号航空母舰和突击者号航空母舰。1982年，海军司令员叶飞因为身体原因退居二线，邓小平亲自点将刘华清返回解放军海军出任司令员。1982年8月28日，刘华清担任海军司令员、海军党委副书记。刘华清在海军司令员任期内一举提出了中国人民解放军的第一个军种战略——“近海防御”的海军战略。