De fikk sin scenedebut på et vaudevilleteater hvor deres onkel Al Shean allerede jobbet som halvparten av duoen «Gallagher and Shean». Groucho debuterte i 1905 som sanger. I 1907 sang han sammen med broren Gummo og Mabel O’Donnell i «The Three Nightingales». Året etter ble Harpo det fjerde medlemmet. I 1910 ble den syngende gruppen utvidet til også å inkludere moren og deres tante Hannah, og gruppen ble omdøpt til «The Six Mascots».