Den 14. juli 1992 utnevnte pave Johannes Paul II ham til biskop av Santa Rosa, nord i California. Den 23. juli 1999 fratrådte biskop Ziemann på grunn av seksuelle og finansielle overtredelser.