Guertin flyttet etter sin ordinasjon inn i katedralens prestegård, og lovet sognebarna der at menighen skulle forbli engelsktalende. Mellom 1907 og 1926 etablerte biskop Guertin 16 nye menigheter i bispedømmet; fem var fransktalende og to polsktalende. Under Første verdenskrig lot Guertin bispedømmet kjøpe $15.000 i krigsobligasjoner (); han kjøpte med egne midler $5 for hver en av studentene ved katedralskolen.