Han støttet tidlig John F. Kennedy, og ble helse-, utdannings- og velferdsminister i John F. Kennedys regjering. Ribicoff syns størrelsen på departementet var altfor stort, og sluttet for å bli valgt inn i USAs senat i 1962. Han var innvalgt der til 1981.