华罗庚主持创办并任首任系主任。首批全国理科人才培养基地、中国科学院博士生重点培养基地、长江学者特聘岗位设置学科，并获得首批数学一级学科博士学位授予权（涵盖数学所有博士点）, 其中基础数学为国家重点学科。关肇直、吴文俊、冯康、龚昇、王元、万哲先、陆启铿、石钟慈、林群、张景中等一大批知名专家曾在此任教。在2000年至2008年期间，数学系与物理系、近代物理系、天文与应用物理系共同组成了理学院；2008年，数学系再次独立出来。2010年11月成立数学科学学院，下设三个系：数学系、计算与应用数学系和概率统计系。