1962年竣工の建物は老朽化が進み、また蔵書数の増加で手狭になったことから、1996年(平成8年)には山田一麿市長が新館の建設を表明した。