最终仍然当选。辉格党这时已是日落西山之境，美国人党正如日中天，兰德尔因此在1852年竞选费城市议员时自称“美国辉格党人”。在选举中胜出后，虽然任期仅有1年，但他连续3度取得连任，从1852年任职到1856年。在此期间，费城的行政区域划分有大幅调整，所有费城县的乡镇及区都于1854合并成一个城市。随着辉格党瓦解冰消，兰德尔和家人成为民主党人。当时正担任美国驻英国大使的宾夕法尼亚州民主党人詹姆斯·布坎南和乔赛亚·兰德尔关系友好。1856年，兰德尔和父亲一起出席民主党全国大会，为布坎南争取总统候选人提名并取得