Totenberg har blant annet reist på turné i Sør-Amerika med Artur Rubinstein og Karol Szymanowski. Han har urfremført flere verk, og har over 30 fiolinkonserter i sitt repertoar. Han har spilt med verdens fremste dirigenter og orkestrer i USA og i Europa. Ved siden av konsertering har Totenberg også utmerket seg som pedagog. Han har blant annet vært professor ved universitetet i Boston, og ledet der strykermusikkavdelingen fra 1961 til 1978. Fra 1978 til 1985 var han direktør ved Longy School of Music (Cambridge i Massachusetts).