1972 wurde Kaltz für die Olympischen Spiele in München nominiert, wo er für die deutsche Fußballnationalmannschaft der Amateure im Zwischenrundenspiel gegen Mexiko zum Einsatz kam. In der deutschen Nationalmannschaft war Kaltz von 1975 bis 1983 aktiv. Seinen ersten Einsatz für die DFB-Auswahl hatte er am 3. September 1975. Beim 2:0-Sieg in Wien gegen Österreich stand Kaltz umgehend in der Anfangsformation. Er absolvierte 69 Länderspiele und schoss acht Tore. Sein erstes Tor für die Nationalmannschaft gelang Kaltz am 8. Oktober 1977, als er beim 2:1-Sieg im Berliner Olympiastadion gegen Italien den 1:0-Führungstreffer erzielte. Nach dem Spiel attestierte ihm Italiens damaliger Nationaltrainer Enzo Bearzot „absolute Weltklasse“. Kaltz nahm an der Weltmeisterschaft 1978 in Argentinien und 1982 in Spanien teil. Der Versuch, Kaltz als Libero für den zuvor zurückgetretenen Franz Beckenbauer bei der WM in Argentinien einzusetzen, schlug aber fehl, was mit zum Ausscheiden der Deutschen Mannschaft in der Zwischenrunde beitrug. Bei der Europameisterschaft 1980 gewann er mit Deutschland den Titel. Dafür erhielt er von Bundespräsident Carstens das Silberne Lorbeerblatt.