На летних Олимпийских играх 2012 года Лондоне Джонс стартовал на четырёх дистанциях. На своей коронной 50-метровке вольным стилем Джонсу совсем немного не хватило, чтобы одержать победу. Всего 0,2 с американец уступил французу Флорану Манаду и стал серебряным призёром игр. На дистанции вдвое длиннее Каллен не смог попасть в финал, заняв лишь 10-е место. В эстафете 4×100 метров вольным стилем американская сборная не смогла повторить успех Пекина, уступив на последнем этапе золото сборной Франции, но зато в комбинированной эстафете американцы не оставили никаких шансов своим соперникам, а Каллен Джонс, стартовавший в предварительном раунде эстафеты, стал двукратным олимпийским чемпионом.