市役所捐款继承，改为「市立高雄图书馆」并于4月1日正式开馆，而于1927年（昭和2年）6月迁至迁至原第一幼稚园处（高雄武德殿西侧），昭和六年（1931年）五月迁至鼓山路与五福路的高雄公会堂内，战后改称民众教育馆。 在1936年出版的论文集《大高雄建设论与市的现势》中记载当时有和汉书6322册、洋书117册，地点位在山下町。二次世界大战时，馆舍不幸毁于高雄大空袭，藏书几成灰烬，仅余日文书籍（和汉书）四百余册，1945年战后租赁馆舍于鼓山一路。1949年秋天，民众教育馆迁至中正四路，更名为高雄市立中山图