在陈宗器、顾功叙、王之卓和翁文波的发起下于1947年8月在上海成立，并在同期开始出版英文学会刊物《中国地球物理学报》。1953年，中国地球物理学会进行了会内重建，重建后的中国地球物理学会挂靠在中国科学院地球物理研究所。1966年至1978年，由于受到文化大革命的影响，中国地球物理学会会务暂停，其刊物的出版工作也随之中断。1978年，即改革开放以后，中国地球物理学会取消了过去单一挂靠的管理方式，开始实行多方支持的管理体制。2012年3月、2012年12月和2015年1月，中国地球物理学会被中国科学技术协会授予