Carballo war Mitglied der A-Nationalmannschaft Uruguays, für die er von seinem Debüt am 1. März 1953 bis zu seinem letzten Einsatz am 30. April 1958 18 Länderspiele absolvierte. Ein Länderspieltor erzielte er nicht. Er nahm mit Uruguay an der Weltmeisterschaft 1954 teil. Im Verlaufe des Wettbewerbs kam er in zwei Spielen zum Einsatz. Carballo gehörte ebenfalls dem Kader Uruguays bei der Südamerikameisterschaft 1953 in Peru und 1955 in Chile an.