Leonard og hans bror Phil kom inn i nattklubbransjen i de svarte bydelene i South Side of Chicago i 1946. De tok over en nattklubb som het . I 1947 begynte Leonard i selskapet Aristocrat Records, Han fikk etterhvert en større rolle i selskapet og tok etterhvert, sammen med sin bror, over hele forretningen. Brødrene Chess førte selskapet bort fra svart pop og jazz og andre stilarter og satset på rendyrket blues med artister som Muddy Waters. I 1950 skiftet Chess-brødrene navn på selskapet til Chess Records. "My Foolish Heart" (Gene Ammons), "Rollin' Stone" (Muddy Waters) og "That's All Right" (Jimmy Rogers) var blant de første utgivelsene. Leonard Chess spilte selv stortromme på et opptak med Muddy Waters i 1951.