研读新约的结果，认定初期教会的实行应该是任何时代与文化中的模型，于是他退出了圣公会和三一学院。这时，他遇到了一批年轻的基督徒，他们在私人住宅内学习使徒的教训，按照《使徒行传》2章42节的榜样，在没有任何神职人员的情况下，实行交通、擘饼、祷告，不久约翰·纳尔逊·达秘等人也先后加入，这就是普利茅斯弟兄会的起源。1829年，葛若弗斯、他的妻子玛丽带着2个年幼的儿子亨利和弗兰克，家庭教师契度，还有几位朋友，一同出发，途径彼得堡，然后再穿过俄国，前往巴格达，