他们回到家乡后，便脱离了原来的教派，在当地兴起了地方教会。
1932年至1942年.1932年3月，倪柝声设立了上海地方教会的第一批长老：杜忠臣（1929年由山东烟台调任上海，原属烟台葡萄山的弟兄会）、林光表和吴锡佑。后来增加了朱臣和俞成华。此后的20年间，上海教会的聚会地点一直在文德里。信徒逐渐增加到数百人后，租赁的房屋也逐渐从一幢增加到四幢（34、36、38号），并且把四幢房子打通，可容纳400人。加上在弄堂里摆上椅子，总共可以坐五、六百位。不过因为结构的原因，柱子不能打掉