Джонс родился в Южной Каролине, в городе Оранджберг. После своего брака с Сарой Тейлор, дочерью бригадного генерала Джозефа Тейлора, он стал родственником президента Закари Тейлора, кузеном Джефферсона Дэвиса и Ричарда Тейлора. В 1842 году он поступил в военную академию Вест-Пойнт, которую окончил 41-м по успеваемости в знаменитом выпуске 1846 года. Тейлора определили во 2-й пехотный полк во временном звании второго лейтенанта. Он участвовал в Мексиканской войне: в осаде Веракруса, сражениях при Серро-Гордо, Контрерас и Чурубуско. 20 августа 1847 года он получил временное звание первого лейтенанта за Контерас и Чурубуско.