Po zakończeniu wojny polsko-bolszewickiej jesienią 1920, powrócił na ziemie białoruskie. W listopadzie-grudniu tego roku brał udział w antybolszewickim powstaniu słuckim. Po niepowodzeniu walk przeszedł wraz z resztkami wojsk białoruskich na terytorium Polski. Wznowił swoją aktywność polityczną wśród Białorusinów mieszkających we wschodniej Polsce. Został administratorem pomocy amerykańskiej. W latach 1924–1936 był dyrektorem gimnazjum białoruskiego w Wilnie. W lutym 1924 r. zainicjował powstanie pro-polskiego Polsko-Białoruskiego Towarzystwa, ale po jego rozpadzie jeszcze w tym samym roku nawiązał współpracę z nielegalną Komunistyczną Partią Zachodniej Białorusi, wstępując w 1926 w jej szeregi. Założył i stanął na czele nielegalnego komsomołu w swoim gimnazjum. W 1925 r. został zastępcą przewodniczącego Białoruskiej Włościańsko-Robotniczej Hromady. Należał też do kierownictwa Towarzystwa Szkoły Białoruskiej, Białoruskiego Towarzystwa Dobroczynności, Białoruskiego Towarzystwa Naukowego i był dyrektorem banku spółdzielczego w Wilnie, przez który przechodziły pieniądze na finansowanie Hromady. Po rozpoczęciu działań przeciw Hromadzie na pocz. 1927 r., Ostrowskiego aresztowano, a następnie wydalono do centralnej Polski.