Тейт був батьком сімох дітей. Один із синів, , був відомим гольфістом, переможцем різних аматорських турнірів (він загинув 1900 року під час англо-бурської війни). Інший син, , був спортсменом, виступав за збірну Шотландії з регбі.