В 1790 году на средства прихожан были устроены двухэтажные боковые приделы и притвор, а также возведена шатровая колокольня. В 150 саженях от церкви имелось общее городское кладбище. В 1898 году на средства капитан-лейтенанта Михаила Павловича Купреянова был устроен придел в честь Архистратига Михаила. М. П. Купреянов строил его как усыпальницу для своей семьи. В приделе погребены: мать адмирала Г. И. Невельского Феодосия Тимофеевна (1787—1854), на надгробном камне которой была выбита эпитафия: «Здесь погребено тело Феодосии Тимофеевны Невельской, матери адмирала Геннадия Ивановича Невельского, присоединившего к России Амурскую область и остров Сахалин, скончалась 27 июля 1854 г., жития ея было 67 лет»; сестра адмирала Мария Ивановна Невельская-Купреянова (14 февраля 1813 — 14 октября 1885); брат Михаила Павловича Иван, лейтенант, академик (умер 19 июня 1895 года, 57 лет от роду); а также контр-адмирал Павел Иванович Купреянов, на надгробии которого значилось: «Герой Синопа, защитник Севастополя, участник покорения Кавказа, Георгиевский кавалер, контр-адмирал Павел Иванович Купреянов, род. 1821 года, скончался 23 мая 1899 г., на 78 году жизни. Милому, дорогому дядюшке и горячо любимому дедушке».