.大上海计划启动后，上海市立图书馆亦被纳入该计划。通过筹备委员会的讨论和对各方案的遴选，最终决定图书馆选址上海特别市政府大厦的西南侧。大厦占地1620平方米，平面呈工字型，坐西朝东。主楼中央设中国式塔楼一座，为歇山重檐顶，仿北京钟楼。由知名设计师董大酉设计，张裕泰和记营造厂负责施工。主楼南北两侧为二层平顶楼房。图书馆建筑面积达3470平方米，为钢筋混凝土结构，外墙敷人造石贴面砌筑。正门前设置平台，陈设花草树木。平台左右最前端各置旗杆一杆。图书馆内部，采用传统风格装修，立柱粉饰为大红，天花板设藻井彩画。