1938年11月11日,出生于上海市金山区。1956年,王小谟高中毕业。1961年,毕业于北京工业学院(现北京理工大学)。1969年,王小谟接到了一个新的调令:到三线去。当时“备战、备荒、为人民”、“好人好马上三线”的口号响彻天南地北。一大批国家重要的钢铁、常规兵器、航空、航天、能源、电子、重型机械、发电设备制造工业基地向三线战略转移。跟王小谟一起从14所去贵州的有八九百人,他们组成了一个新的研究所-电子工业部第38研究所(今中国电子科技集团公司第38研究所)。1986年,王小谟担任38所所长。1987年,作为13位有突出贡献的中青年科学家之一,王小谟应邀到北戴河疗养,受到邓小平同志的亲切接见。1990年,国家决定通过对外合作解决预警机装备急需。王小谟担任中方总设计师,主持系统总体设计,在世界上首次提出基于二维有源相控阵体制的三面阵背负罩新型预警机工程方案。同时,他带领和组织国内研发团队同步开展研制工作,掌握预警机设计方法和主要关键技术,锻炼和培养技术队伍,为中国自行研制预警机奠定坚实基础。国产预警机正式立项后,王小谟主动推荐优秀年轻专家担任总设计师,自己担任总顾问,倾心指导年轻的总师们确定总体技术方案,开展技术攻关、系统集成和试验试飞方案等重大工程研制事项,为中国首型预警机的研制成功作出重要贡献。1991年,53岁的王小谟离开38所,到北京中国电子科技集团公司总体研究院开始了他在国防科技上的更高追求。1995年,当选为中国工程院院士(信息与电子工程学部)。2009年,已经72岁高龄的他,欣然接受38所聘请,担任该所预警探测领域首席科学家。2010年,他主导研制的预警机项目荣获国家科学技术进步奖特等奖。同时,他亲任出口型预警机总设计师,首次提出运八平台背负圆盘型天线罩的设想,实现了“小平台、大预警”。2013年1月18日,根据《国家科学技术奖励条例》的规定,经国家科学技术奖励评审委员会评审、国家科学技术奖励委员会审定和科技部审核,国务院批准并报请国家主席胡锦涛签署,授予王小谟院士2012年度国家最高科学技术奖。获得2012年度国家最高科学技术奖后,王小谟拿出500万元人民币奖金中的450万元,又通过各方最终筹集出2000万元,计划成立雷达创新奖励基金,每年奖励三名在雷达和预警探测技术领域作出突出贡献和有重大创新的年轻人。