Mentre era a Parigi, Williams fu ordinato sacerdote il 17 maggio 1845 nella Cattedrale della Santissima Trinità, da Denis-Auguste Affre, arcivescovo di Parigi, che fu poi ucciso durante la Rivoluzione francese del 1848. Tornò a Boston nell'ottobre del 1845 e fu poi assegnato come curato alla Cattedrale della Santa Croce. Prestò servizio in questa veste per dieci anni, dando anche lezioni domenicali e catechismo. Fu rettore della cattedrale dal 1855 fino al 1857, quando divenne parroco della chiesa di San Giacomo nella stessa città. Sotto la sua custodia, la chiesa vide sollevarsi di molto il suo debito e divenne una delle parrocchie più importanti di Boston. Oltre ai suoi doveri pastorali a San Giacomo, Williams fu nominato vicario generale della diocesi di Boston nell'estate del 1857. Amministrò gli affari della diocesi durante gli ultimi anni del vescovo John Bernard Fitzpatrick, la cui salute era in declino.