Po kilkukrotnych niepowodzeniach włączył się do pracy konspiracyjnej w Wilnie w ramach Związku Walki Zbrojnej. W literaturze przedmiotu istnieją rozbieżności co do momentu rozpoczęcia przez niego działalności konspiracyjnej – podawane są daty: koniec roku 1939, początek 1940 bądź 1941, przy czym za najbardziej prawdopodobny uznaje się kwiecień-maj 1940. W konspiracji Szendzielarz działał początkowo w strukturach tzw. Kół Pułkowych, jednej z licznych w tym czasie grup konspiracyjnych, przyjmując pseudonim „Łupaszko” (po słynnym zagończyku z okresu wojny polsko-bolszewickiej (1919-20) ppłk. Jerzym Dąbrowskim). Organizacja miała charakter kadrowy. W dniu 28 grudnia 1939 roku Koła Pułkowe weszły w skład SZP-ZWZ. We wrześniu 1940, już po okupacji Litwy przez Armię Czerwoną (15 czerwca 1940) i wcieleniu jej 3 sierpnia 1940 do ZSRR, Komenda Związku Walki Zbrojnej w Wilnie dokonała podziału organizacji na rodzaje broni, tworząc m.in. Wileński Pułk Ułanów Śmierci, jako kontynuację Wileńskiej Brygady Kawalerii. Jednostka ta była podzielona na trzy szwadrony, które nosiły nazwy przedwojennych pułków Wileńskiej BK. Por. Szendzielarz stanął najprawdopodobniej na czele jednego z tych szwadronów. Po ataku III Rzeszy na ZSRR 22 czerwca 1941 i rozpoczęciu niemieckiej okupacji Wileńszczyzny (Wilno zostało zajęte przez Wehrmacht 24 czerwca 1941) Szendzialarz przeszedł pod koniec 1941 do komórki dalekiego wywiadu wschodniego ZWZ-AK, gdzie służył przez cały rok 1942. Organizował wówczas siatkę wywiadowczą na linii kolejowej Wilno – Podbrodzie – Ryga. Od początku roku 1942 do sierpnia 1943 przebywał w majątku rodzinnym swojej żony w Szajkunach. Po tym okresie zaangażował się całkowicie w konspirację.