W 1915 roku wstąpił do Metropolitalnego Seminarium Duchownego Archidiecezji Mohylewskiej w Petersburgu, kształcąc się tam w zakresie filozofii i teologii. Jednakże w 1918 roku jego nauka została przerwana poprzez zamknięcie seminarium, a także falę aresztowań duchownych oraz seminarzystów, co było pokłosiem rewolucji październikowej. Piotrowi Tatarynowiczowi udało się zbiec do kraju rodzinnego. Droga ucieczki wiodła przez kraje nadbałtyckie, poprzez lasy i wsie, gdzie napotykał ludzi, którzy udzielali mu pomocy oraz ukrywali przed bolszewikami. Do domu rodzinnego dotarł po trzech miesiącach wędrówki. Dalsze studia kontynuował w Wyższym Seminarium Duchownym w Mińsku, gdzie w 1919 roku przez posługę biskupa Zygmunta Łozińskiego otrzymał święcenia subdiakonatu. W 1920 roku, ze względu na wojnę polsko-bolszewicką, przeniesiono go wraz pięcioma innymi białoruskimi klerykami i jednym polskim do Włocławka, tam też 12 czerwca 1921 roku wszyscy oni przyjęli święcenia kapłańskie z rąk bpa Stanisława Zdzitowieckiego, Piotr Tatarynowicz został wyświęcony na kapłana diecezji mińskiej. Jednakże władze włocławskie miały zamiar wszystkich nowo wyświęconych księży przyjąć do swojej diecezji, wyznaczając im już stanowiska. Księża jednak oferowanych propozycji nie przyjęli, o czym ks. Tatarynowicz wspominał: