亲为中华民国农业专家沈宗瀚，另有一名弟弟名为沈君岳。沈君山1950年原就读广州岭南大学，后逃离中国大陆，由广州转道澳门住了约一年，才经香港进入台湾；1955年自国立台湾大学取得物理学士学位之后，赴美国于1961年取得马里兰大学物理博士学位。旅美期间于普林斯顿大学、美国太空总署（NASA）和普度大学历练。1973年任教于国立清华大学物理学系，尔后接任理学院院长。1994年出任国立清华大学校长至1997年止，为国立清华大学首任非官派的遴选校长。沈君山曾在1999年6月、2005年8月、2007年7月三度