Hans meritter brakte Josef Groß flere ganger i diskusjon for større oppgaver. I 1913 skulle han etterfølge den avdøde erkebiskop av Wien, Franz Xaver Nagl. Imidlertid klarte radikalt liberale og nasjonalistiske krefter å forhindre utnevnelsen med en pressekampanje. Utnevnelser til Salzburg for å etterfølge erkebiskopene Johannes Baptist Katschthaler i 1914 og Balthasar Kaltner i 1918 ble det heller ikke noe av.