W listopadzie 1939 wstąpił do konspiracyjnej organizacji Komisariat Rządu, która następnie weszła w skład Służby Zwycięstwu Polski. Wkrótce został szefem wydziału wojskowego w Związku Walki Zbrojnej. Jednocześnie pracował jako sanitariusz w szpitalu zakaźnym. Po zajęciu Wilna przez wojska niemieckie został mianowany komendantem konspiracyjnego garnizonu m. Wilna. Używał wówczas ps. „Pohorecki”, „Kurcewicz”, „Michał” oraz otrzymał awans do stopnia majora. Od 1943 pełnił funkcję inspektora Okręgu Wileńskiego AK. W kwietniu 1944 został dowódcą I Zgrupowania AK, na czele którego wziął udział w operacji „Ostra Brama”. Przewidując wrogą postawę Sowietów, w lipcu 1944 uniknął aresztowania. Przedostał się do Wilna, gdzie został szefem Oddziału II odtworzonej komendy Okręgu Wileńskiego AK, a następnie zastępcą i ostatecznie komendantem Okręgu. Używał wówczas ps. „Lawicz”. W 1945 przeprowadził demobilizację Okręgu Wileńskiego i Okręgu Nowogródzkiego, przenosząc ich struktury do centralnej Polski.