Fils de Thomas Rodney et Elizabeth Fisher, il est également le neveu de Caesar Rodney, l'un des signataires de la Déclaration d'indépendance des États-Unis. Diplômé de l'Université de Pennsylvanie en 1789, il étudie le droit à Philadelphie et est admis au barreau en 1793, avant d'exercer dans le Delaware.