Il ritiro dal calcio giocato non scoraggia Gómez che nel 1986, due soli anni dopo il suo abbandono della carriera di calciatore, diventa vice-allenatore di Francisco "Pacho" Maturana sia all'Atlético Nacional che nella nazionale di calcio della Colombia. Nel 1991, dopo l'esonero di Maturana, Gómez ne prende il posto prima nel club di Medellín e successivamente nella selezione nazionale. Dopo il Gómez prende le redini dell', che guida nelle edizioni 2001 e 2004 della Copa América, e centra per la prima volta la storica qualificazione ai Mondiali di . Dopo la Copa América 2004, Gómez si ferma per due anni, per prendere nel 2006 il posto di commissario tecnico della nazionale di calcio del Guatemala. Nel 2008 viene assunto dalla squadra partecipante al campionato di calcio colombiano dell'Independiente Santa Fe; il 4 maggio 2010 viene nominato commissario tecnico della Nazionale. Il 9 agosto 2011 presenta le dimissioni.