长老会家庭中，6岁丧父。1936年受洗。初中就读于山东滕县华北弘道院。1940年初三时接触到倪柝声福音小册。1942年因太平洋战争爆发，赴安徽国立第22中读高中。毕业后赴重庆，1945年考取交通大学机械系，并开始参加重庆地方教会的聚会（在张郁岚家客厅，江守道讲道）。初中毕业后患左胸积水，住院一年。期间祷告﹐痊癒后愿作传道。1946年，日本投降，交大迁回上海，而上海教会也已恢复聚会。1947年，李常受和汪佩真到交通大学开展校园福音工作，吸引一批青年学生，徐尔建也是其中之一。这时他热切参加聚会（当时在哈同路