Han blei kjent med Otis Williams og kom inn i hans gruppe, . I 1961 fikk Williams, Franklin og Elbridge Bryant fra denne gruppa – sammen med Paul Williams og Eddie Kendricks fra – kontrakt med plateselskapet Motown, og de tok da navnet .