医院创建于1952年初。前身为“石家庄金融贸易合作社职工医院”,院址位于华安街8号。1953年初,医院改称“商业职工保健所”,同年3月迁址于南大街11号,11月迁至中山路长安胡同13号。1956年扩建改名为“石家庄市商业医院”,迁址至现址,开设病床50张,有职工75人。1972年5月,医院改称为“石家庄市第二医院”,职工增至105人。1975年1月,医院划归石家庄地区,更名为“石家庄地区人民医院”,开设病床80张,职工人数260人。1993年9月,石家庄地市合并,医院改名为“石家庄市第二医院”,编制床位350张,职工人数655人,占地面积13亩,建筑面积1.9万余平方米。1999年5月,在医院原口腔科的基础上成立了石家庄市口腔医院。2010年11月,经石家庄市卫生局批准医院加挂“石家庄市糖尿病医院” 第二名称。