Specter skiftet så oveer til republikanerne og ble i1965 till distriktsanklager i Philadelphia. Han tapte i 1967 valget til borgermester i Philadelphia. Han ble så gjenvalgt til distriktsanklager, men lyktes ikke å bli gjenvalgt til en tredje mandatsperiode i 1973.