В составе сборной Аргентины Рамос провёл 11 матчей. Он был участником двух чемпионатов Южной Америки. В первенстве 1942 года он провёл все 6 матчей, а его команда выиграла серебряные медали. В чемпионате 1946 года Хосе сыграл только первую встречу с Парагваем (2:0), а остальные матчи провёл на скамье запасных. На том турнире аргентинцы завоевали первое место.