Familien Cook flyttet til det sydlige Chicago i 1933, hvor faren Charles Cook ble prest i pinsemenigheten Christ Temple Cathedral. Det var der Sam lærte seg sangkunsten. Sammen med to av brødrene og to av søstrene dannet han gospelgruppa The Singing Children i slutten av 1930-årene. Som tenåring sang han også sammen med ei gospelgruppe som kalte seg Highway Q.C.