Glashow ble født i New York av jødiske immigranter fra Russland og ble uteksaminert fra Bronx High School of Science i 1950. Glashow var i samme avgangsklasse som Steven Weinberg. Han fikk en bachelor of arts fra Cornell University i 1954 og en filosofisk doktorgrad i fysikk fra Harvard University i 1959 under veiledning fra Julian Seymour Schwinger, nobelprisvinner i fysikk. Etter uteksamineringen ble Glashow en del av University of California, Berkeley og jobbet som førsteamanuensis fra 1962 til 1966. Han var professor ved Massachusetts Institute of Technology i 1974.