时南洋公学设立三院，为外院（后改为附属小学堂）、中院（中学）及上院（大学）。建筑起初要给上院的学生使用，故也称作“上院”。但上院建筑建好了，上院却决定缓办，后只得作为北洋大学铁路四班和预科班的教室，后来也作为一些专业训练班的教室和行政机构用房。李叔同、凌鸿勋、黄炎培、邵力子、邹韬奋、陆定一等着名人物曾在此学习。上院为一座“山”字形三层楼房，属英国文艺复兴式风格，有拱券长外廊，外墙以断山花为装饰，并有法国券式门窗。楼中部顶层有钟楼，底层有礼堂，是南洋公学的大学部，另有教室、实验室、办公室、食堂、学生宿舍。