光绪四年（1879年），徐世昌与袁世凯在河南开封结义为兄弟，得袁资助北上应试。先中光绪八年（1882年）壬午科顺天乡试举人，光绪十二年（1886年），以天津籍中进士，同年五月，选入翰林院任庶吉士。光绪十五年四月，散馆，授翰林院编修。1895年，徐世昌与袁世凯、张之洞等都列名参加强学会，并出资赞助。1897年，袁世凯小站练兵时，徐兼任新建陆军参谋营务处总办，是袁世凯的幕僚之一，此后累获擢升。1905年，袁世凯创建新式警政，保举徐世昌为巡警部尚书，负责京师治安。是出洋考察五大臣之一。1906年1月9日，