Erwin Klein war der Sohn eines Amerikaners. Seine Mutter war deutsch-ungarischer Abstammung. Er galt in den 1950er und 1960er Jahren als einer der besten amerikanischen Tischtennisspieler. Bei den offenen amerikanischen Meisterschaften gewann er viermal im Einzel (1956, 1961, 1964, 1965). Klein nahm 1955, 1956, 1963 und 1967 an der Weltmeisterschaft teil. 1956 wurde er in Tokio mit Leah Neuberger Weltmeister im Mixed; sie besiegten im Endspiel Ivan Andreadis/Ann Haydon. Danach stellte Klein den Tischtennissport zugunsten eines Studiums bis 1961 zurück.