曾与两江总督刘坤一商讨设立南洋公学。1896年10月，盛宣怀上奏《条陈自强大计折》并附《请设学堂片》奏请在上海设置南洋公学，提议由轮船招商局和电报局提供经费。12月6日光绪帝谕令批准盛宣怀设立学堂。南洋公学隶属于招商局和电报局，校内设置了师范学院、外院、中院和上院四院，盛宣怀首任督办。1900年，八国联军入侵津京地区，同为盛宣怀所创办的北洋大学堂在天津一度被迫停办，部分师生因战乱南迁至上海，在盛宣怀的安排下入读南洋公学在上院专门为接受北洋师生所开设的铁路班，直至北方战局平息，北洋师生及铁路班迁回天津。