任国防科委主任、国家科委主任，主持导弹、原子弹、人造卫星的研究工作。1959年9月，被任命为中共中央军委副主席，主抓尖端武器工作。20世纪60年代初，在中国国内遇到严重困难，苏联撤走全部专家、停止一切技术援助的情况下，聂荣臻先后两次向中共中央和毛泽东、周恩来等报告，明确提出“两弹一星”必须坚持“攻关”，并进一步强调必须坚持“自力更生为主，力争外援和利用资本主义国家已有的成果为辅”的方针。1961年4月，聂荣臻主持制定了《科学工作十四条》。1962年11月17日，中央决定成立15人专门委员会，领导国防尖端事业