辞官回家，并开始着手建立新式学校。1904年，私立南开学校建立，严氏家馆的塾师张伯苓担任校长。之后，在意识到社会发展对高等教育的急切需求后，严修开始着手创办大学教育。1917年，在尝试创建的专门部和高等师范班一年便失败后，严修派张伯苓先期前往美国哥伦比亚大学研究大学经营之道。同年，严修也亲赴美国对哥伦比亚大学、芝加哥大学、旧金山大学等着名私立大学的运作进行考察。1918年底回国之后，严修和张伯苓开始为南开大学的创建奔走。两人先行前往北京，面见教育总长傅增湘及多位知名学者，讨论大学成立事宜，又找到梁士诒、