Den første tida sang Ruffin i hovedsak harmonier, mens Eddie Kendricks og Paul Williams skifta på førstestemmen. Produsent Smokey Robinson hadde imidlertid tru på Ruffins stemme, og han var på utkikk etter en passende sang til den. Valget falt på «My Girl», som blei spilt inn i november 1964. Låten gav The Temptations deres første topplassering på hitlistene. Den blei gruppas signaturmelodi, og Ruffin blei nå en frontfigur.