属小学于1901年（清光绪二十七年）阴历二月初一成立，当时称为“下院”（“上院”、“中院”分别相当于大学和中学）。最初为二个班共72人，据说来自孔子七十二贤。南洋附小在当时是国人自办小学中较早的一个。学校最初的课程仿效了西洋和东洋而设，由于当时的校长林康侯、沈叔逵去过日本留学考察，许多方面都模仿了日本。1927年，国民政府交通部下令停办中小学，于是学校脱离大学独立，改为私立南洋模范中小学，1938年迁入天平路200号。1950年4月，中共中央主席毛泽东应学校高一学生请求，为学生壁报题字“青锋”，意