Khrennikov var den yngste av ti i en familie av hestehandlere fra Guvernementet Orjol (i dagens Lipetsk oblast). Som barn lærte familiemedlemmer ham å spille gitar og mandolin. I hjembyen Jelets sang han i et kor og spilte i et orkester, der han også lærte å spille piano.