Den 4. januar 1982 utnevnte pave Johannes Paul II Leo Schwarz til titulærbiskop av og hjelpebiskop i Trier. Han ble bispeviet av biskopen av Trier, Hermann Josef Spital, 28. mars samme år. Medkonsekratorer var hjelpebiskopen av Trier, Carl Schmidt, og hjelpebiskop i Tegucigalpa i Honduras Oscar Andrés Rodríguez Maradiaga, som senere ble kardinal og erkebiskop av Tegucigalpa.