В 2008 году Джонс дебютировал на летних Олимпийских играх. Каллен принял участие в эстафете 4×100 метров. Джонс стал единственным пловцом в составе, который принял участие и в предварительном раунде и в финале. В решающем заплыве американская сборная США одержала победу, установив при этом новый мировой рекорд, а Джонс впервые в карьере завоевал золотую медаль Олимпийских игр. В 2009 году Джонс во второй раз в карьере стал чемпионом мира, повторив в составе эстафетной четвёрки успех двухлетней давности.