Константин родился в потомственной легкоатлетической семье: его родители, а также бабушка с дедушкой занимались этим же видом спорта. Его отец, мастер спорта Игорь Толоконников, в начале 90-х годов был одним из сильнейших юниоров страны в беге на 800 метров. Он выиграл Европейский юношеский фестиваль в 1991 году, участвовал в финалах на юниорских чемпионате мира и чемпионате Европы. Константин в итоге пошёл по его стопам, но прежде успел попробовать свои силы в большом количестве других видов спорта. Среди них были бальные танцы, спортивная гимнастика и плавание. Окончательный переход к бегу произошёл в 12 лет.