Den 10. juni 1969 utnevnte pave Paul VI ham fil biskop av Graz-Seckau. Den 28. september 1969 ble han bispeviet av Salzburgs erkebiskop Andreas Rohracher. Medkonsekrerende var titulærerkebiskop av Josef Schoiswohl, Webers forgjenger i Graz, og biskopen av Gurk-Klagenfurt, Joseph Köstner. Etter bispevielsen ble han lykkønsket av applaus i domkirken i Graz, noe som den gang var helt uvanlig i den katolske kirke i Østerrike.