Tidlig i karrieren jobba Davis med (som seinere blei til The Four Tops). Mot slutten av 1950-tallet skreiv han (sammen med Berry Gordy) flere hitlåter for Jackie Wilson. Mest kjent er «Lonely Teardrops», som også Gwen Gordy (Berrys søster og Billys kjæreste) var med å lage. Davis og Gwen starta seinere platemerket , som i begynnelsen var distributør for Berry selskap Tamla (det seinere Motown).