High church
Hubbard est profondément intéressé par la religion et la Haute Église dans la tradition puseyite, mais il rejette le ritualisme. En 1863, il construit et dote l'église St Alban, Holborn, où il est également marguillier . Le père Mackonochie, un prêtre irlandais, utilise un rituel catholique qui n'est pas à son goût, ce qui provoque une lettre raide à l'évêque de Londres en 1868 .