Walter holdt et pavelig legat fra pave Celestin III fra 1195 til 1198, noe som gjorde det mulig for ham å fungere med pavens autoritet innenfor den engelske kirke. Han undersøkte aktivt geistlige tjenesteforseelser, og avsatte flere abbeder, blant annet Robert fra klosteret Thorney Abbey i 1195 og en abbed av St Mary's i provinsen til erkebiskopen av York. Ved klosterkatedralen i Worcester disiplinerte han munkene en gang mellom Herny de Sullys død og valget av John av Coutances, noe som var hans rett som erkebiskop av provinsen. I hans eget bispedømme ga han tillatelse til markeder til byer og ga tillatelse til å prege mynter i Shrewsbury, og arbeidet for skaffe tilbake landområder og gods som erkebispesetet hadde mistet.