I 1948 ble han sogneprest i Eskilstuna, der han så til at en villa ble innkjøpt om ombygd til katolsk kirke. I 1965 ble han sogneprest for den katolske menighet i Dalarna, først stasjonert i Ludvika, senere i Falun. Med egeninnsamlede midler fikk han til et kirkebygg: , som ble innviet i 1973. Vilnis så også til at Birgittasøstrene grunnla et kloster med gjestehjem i Falun og var den som bygde opp leirgården og dets kapell i Sågmyra.