1755年3月24日、ルーファス・キングはマサチューセッツ植民地のスカーバラで生まれた。キングはバイフィールドのダマーアカデミー（現在のガバナーズアカデミー）とハーバード大学で学んだが、勉学の時間はアメリカ独立戦争で割かれた。キングはロードアイランドの戦いに参加した。イギリス軍がボストンから撤退後はハーバード大学に復帰し、1777年に卒業した。キングは弁護士として認可を受け、1780年にニューベリーポートで弁護士業を開業した。