Dakota Territory
ギフォードはニューヨーク州ジェファーソン郡ウォータータウンで生まれた。南北戦争では北軍に参加していた。1871年10月にダコタ準州(現在のサウスダコタ州)リンカーン郡に移り住み、弁護士事務所を開業。リンカーン郡の地方判事、カントン市長、サウスダコタ州憲法会議議員を歴任した後、1885年から下院代議員(ダコタ準州選出)を2期務めた。