Хосе был частью молодёжной сборной Уругвая, которая выиграла серебряные медали молодёжного чемпионата мира 2013. За национальную сборную Уругвая дебютировал в сентябре 2013 года в матче против сборной Колумбии. Впоследствии ещё трижды играл за сборную. Оскар Табарес вызвал Хименеса на товарищеский матч против Австрии (1:1) 5 марта 2014 года даже несмотря на отсутствие у футболиста игровой практики в клубе. Также Хименес попал в список уругвайцев для участия в чемпионате мира 2014 года. На турнире Хименес выступил очень удачно, уругвайцы вышли в 1/8 финала, где уступили сборной Колумбии. После этого Хименес был одним из лучших игроков сборной в Серии товарищеских матчей в Азии. По итогам 2014 года Хименес, вместе со своим партнёром по «Атлетико» Диего Годином (ставшим во время ЧМ-2014 капитаном сборной) был признан лучшим футболистом Уругвая из числа тех, кто выступает за пределами самого Уругвая.