Han debuterte for det vesttyske landslaget som 19-åring i 1958 og fikk med seg tre VM-sluttspill. Han spilte følgende VM-sluttspill: Chile 1962, England 1966 og Mexico 1970. Haller fikk 33 landskamper og 13 mål for Vest-Tyskland.