Ba Shwe var først kapellan i Doungankha. Fra 1995 til 1999 var han ansvarlig for Zetaman evangeliseringsgruppe og for ungdomssjelesorgen i bispedømmet Loikaw. Ba Shwe fungerte deretter som vise bispedømmeprokurator før han ble generalprokurator for Bishops' Conference of Myanmar (CBCM) i 2000. Fra 2009 til 2010 var han kort sogneprest i Sacred Heart Parish i Phasaung. Ba Shwe ble deretter sogneprest i Kristus kongen-katedralen i Loikaw, og generalvikar.