Roberts ble født i Buffalo i New York og vokste opp i Indiana. Han ble uteksaminert fra Harvard Law School i 1979. Fra 1980 til 1981 var han juridisk utreder for høyesterettsdommer Rehnquist. Han arbeidet for Ronald Reagan-regjeringen, fra 1981 til 1982 som spesialrådgiver for justisminister William French Smith og fra 1982 til 1986 som assisterende juridisk rådgiver til presidenten. Da han ble nominert til høyesterett var han dommer ved den føderale appellretten for District of Columbia.