980年至1981年他成为最高法院法官威廉·伦奎斯特的助理，之后又在共和党总统罗纳德·里根麾下的司法部任职，并成为乔治·赫伯特·沃克·布什总统的白宫法律顾问。其后的14年间，罗伯茨成为私人执业律师，曾39次在美国最高法院上出庭辩论。2005年7月19日美国总统zh-hans:布什;zh-hk:布殊;zh-tw:布希;提名他为美国最高法院大法官，替代即将辞职的温和保守派法官桑德拉·黛·奥康瑙。2005年9月5日，布什总统撤回了罗伯茨原来的提名，重提名罗伯茨为美国首席大法官，接替9月3日去世的威廉·伦奎