W grudniu 1920 przeniesiony do aparatu wywiadu wojskowego Registrupr, od 1921 Razwiedupr Armii Czerwonej. W nagrodę za sukcesy na Łotwie mianowany zastępcą ówczesnego szefa Razwiedupru Arvīdsa Zeibotsa. W 1924 mianowano go szefem Razwiedupru. Brał aktywny udział w przygotowaniach do nieudanego komunistycznego puczu w Estonii w 1924. Faktyczny organizator systemu wywiadu wojskowego Armii Czerwonej. Był inicjatorem nowoczesnego dekryptażu, strategicznego wywiadu radiowego, twórcą sieci zagranicznej agentury. Osobiście dobierał i weryfikował kadry. Do agentów zwerbowanych przez Bierzina należeli Richard Sorge i Leopold Trepper.