七事变后，图书馆于11月停止开放。1938年1月日军再次占领青岛后，图书馆由青岛治安维持会接管，莒县路馆舍二楼被反蒋委员会占用。1940年2月1日，青岛特别市公署（汪精卫政权）下辖的青岛特别市市立图书馆开馆（一说1939年7月开馆）。1945年8月日本投降后，图书馆由国民政府接收，12月20日在莒县路馆址复馆，复名青岛市立图书馆（一说青岛市图书馆）。1949年6月2日解放军接管青岛后，青岛市军事管制委员会接收图书馆，1950年改名青岛市人民图书馆，迁往广西路14号院内，线装书仍存放于莒县路2号。该馆后来