Iowa Territory
1823年3月23日、ウィリアムズはニューヨーク州ニューレバノンにおいて誕生した。父親はテイバー・ウィリアムズ (Taber Williams)、母親はリディア・グッドリッチ (Lydia Goodrich) であった。ウィリアムズは普通教育を受け、続いて法律を学んだ。ウィリアムズは1844年に弁護士として認可を受けた。ウィリアムズはアイオワ準州のフォート・マディソンへ移り、弁護士として職に就いた。