Chapel Royal
ウェストミンスターは2度結婚している。最初の妻は第2代サザーランド公爵ジョージ・サザーランド＝ルーソン＝ゴアの五女であるレディ・コンスタンス・ガートルード・サザーランド＝ルーソン＝ゴアで、1852年4月28日にセント・ジェームズ宮殿のチャペル・ロイヤルで結婚した。彼女は母方の従妹にあたる。