Хосе Пердомо начинал карьеру футболиста в уругвайском клубе «Пеньяроль». В конце октября 1987 года он сыграл за него во всёх трёх матчах финала Кубка Либертадорес против колумбийской «Америки» из Кали. В 1989 году Пердомо перешёл в итальянский «Дженоа», проведя за него 25 матчей в рамках Серии А. Вторую половину 1990 года Пердомо провёл за английский «Ковентри Сити», а затем перешёл в испанский «Реал Бетис». 1 марта 1991 года уругваец дебютировал в испанской Примере, в принципиальном матче с «Севильей». Более того, Пердомо на 79-й минуте забил гол в Севильском дерби, сократив отставание его команды в счёте.