Pfaff debutó con los Diablos Rojos en 1976 contra su tradicional rival de todos los tiempos, Holanda. Fue el arquero titular durante la Eurocopa 1980, donde fue subcampeón, y la Eurocopa 1984, además de los mundiales de España 1982 y México 1986, donde en este último alcanzó las semifinales. En 1987 fue destacado por la IFFHS como el .