Weber jogou pelo Köln entre 1963 e 1978 e teve 53 internacionalizações pelo seu país, marcando apenas um gol. Ele também representou a Alemanha Ocidental no Campeonato Europeu de Futebol de 1968 e na Copa do Mundo FIFA de 1970.