Хайес родился в Саус-Бервик, округе Йорк, в штате Мэн, в семье судьи Уильяма Аллена Хайеса и Сьюзан Лорд Хайес. Учился в Гарвардском университете. Когда началась Гражданская война, он 24 августа 1861 года вступил в федеральную армию и стал майором 18-го Массачусетского пехотного полка. До лета 1862 года его полк стоял в Вашингтоне. Хайес отсутствовал по болезни последние две недели августа 1862 года,из-за чего пропустил Северовирджинскую кампанию. Он вернулся в строй 1 сентября и возглавил полк как старший по званию. Вскоре он получил звание подполковника задним числом от 25 августа.