20 января 1807 года президент Томас Джефферсон назначил Родни генеральным прокурором США. Он служил в этой должности оставшуюся часть срока Джефферсона и в течение почти трёх лет в первом сроке президентства Джеймса Мэдисона. В качестве генерального прокурора Родни участвовал в качестве обвинителя во втором судебном процессе над бывшим вице-президентом Аарона Бёрром. Родни ушел в отставку 5 декабря 1811 года, недовольный тем, что его перевели на пост в Верховном суде США. Во время войны 1812 года он был капитаном стрелкового корпуса. Служил в Форт-Юнионе в Уилмингтоне, на канадской границе, и участвовал в защите Балтимора в 1814 году.