Merchant vokste opp i nabolaget Washington Heights, nord på Manhattan i New York. Sammen med skolekameraten Sherman Garnes danna han vokalgruppa i 1954. Noe seinere blei de begge med i en kvartett sammen med Herman Santiago og Joe Negroni. Gruppa sang på gatehjørnene i nabolaget under skiftende navn: The Ermines, The Coupe de Villes og The Premiers. I 1955 tok den tolvårige Frankie Lymon kontakt med dem etter en skolekonsert. Han fikk innpass i gruppa som førstetenor, mens Santiago sang førstestemmen. Merchant blei da andretenor. Seinere det året fikk de kontakt med plateprodusenten George Goldner, som gav gruppa kontrakt under det nye navnet the Teenagers.