Harrod wurde in Pennsylvania geboren, das genaue Jahr ist ungewiss. Viele Mitglieder seiner Familie, darunter sein Bruder und die erste Frau seines Vaters, wurden bei Indianerüberfällen getötet. Während des Siebenjährigen Kriegs kämpfte er als britischer Soldat. Nach dem Krieg erkundete er als Waldläufer die westlich der Appalachen gelegenen Gebiete und lernte dabei Französisch und zahlreiche Indianersprachen. 1774 gründete er Fort Harrod, die erste dauerhafte weiße Ansiedlung in Kentucky. Aus diesem Fort ging die Stadt Harrodsburg hervor. Harrod erwarb umfangreichen Grundbesitz und galt als wohlhabender Bürger.