总督府辖区后，台湾省行政长官公署将其与南方资料馆合併改制为「台湾省行政长官公署图书馆」（简称台湾省图书馆），借台湾省立博物馆（今国立台湾博物馆）提供阅览服务。1947年改为「台湾省立台北图书馆」，隶属台湾省政府教育厅。由于馆舍空间不足，1955年迁馆至新生南路台北工专（今国立台北科技大学）旁。1968年，台北市升格为直辖市，省属机关陆续迁往省治中兴新村或台中；各界人士都期待该馆留在台北，以便于利用其馆藏和服务。当时，迁台的国立中央图书馆已在台北南海学园内复馆，而该馆组织条例中提到可设立分馆（抗战时期成立过重