Harpo fikk sitt navn under et slag poker. De andre brødrene fikk tilsvarende navn som speilte personlighetene deres; hans bror Leonard ble kalt Chico fordi han alltid jaktet på kvinner (); hans bror Milton ble Gummo fordi han så ut som en detektiv som lusket rundt i gummisko, og hans bror Julius ble Groucho fordi han tilsynelatende så gretten ut (). Brødrene selv har gitt andre forklaringer på opprinnelsen til navnene, men Harpos navn er ikke blitt bestridt. Han spilte virkelig harpe.