Хосе Веласкес дебютировал в составе сборной Перу 29 марта 1972 года в товарищеском матче со сборной Колумбии, завершившимся ничьей со счётом 1:1. В 1975 году Веласкес принял участие в победном для его сборной Кубке Америки. В 1978 году Веласкес принял участие в чемпионате мира, на котором сыграл в пяти матчах и забил гол в ворота сборной Ирана. В следующем году Веласкес принимал участие в своём втором Кубке Америки, перуанцам не удалось повторить успех четырёхлетней давности, и они стали лишь бронзовыми призёрами. В 1982 году Веласкес поехал на свой второй чемпионат мира, он сыграл во всех трёх матчах своей сборной. В следующем году он вновь принимает участие в Кубке Америки, на котором перуанцы вновь становятся бронзовыми призёрами. Своё последнее выступление за сборную Веласкес провёл в стыковом матче за право выступить на чемпионате мира 1986 года против сборной Чили 3 ноября 1985 года, тот матч перуанцы проиграли со счётом 0:1, из-за чего не смогли выйти в финальную часть турнира. Всего же за сборную Хосе Веласкес сыграл 82 официальных матча, в которых забил 12 голов.