В марте 1932 года был переведён в войска ОГПУ, в которых прошли последующие 10 лет его службы. Сначала был назначен руководителем мотомеханизированного дела в 3-й пограничной школе ОГПУ (Москва), в мае 1932 переведён инспектором в Главное управление пограничных и внутренних войск ОГПУ СССР. С мая 1933 года служил командиром бронетанкового дивизиона в 13-м мотострелковом полку НКВД (Алма-Ата), с сентября 1935 — помощником командира по технической части этого полка, а в декабре 1938 года переведён на ту же должность в 5-й мотострелковый полк НКВД СССР (Ростов-на-Дону). На этом посту участвовал в походе РККА в Западную Белоруссию в сентябре 1939 года, после завершения которого назначен помощником командира по технической части 1-го мотострелкового полка НКВД (Белосток). В 1940 году окончил Курсы усовершенствования командного состава автобронетанковых войск (Казань). С июня 1940 года служил помощником командира по технической части в 1-м отдельном мотострелковом полку Главного управления пограничных войск НКВД СССР, в феврале 1941 года полк был передан в состав Оперативных войск НКВД. Полк базировался в Каунасе. С 1 июня 1941 года полк участвовал в чекистской операции по «изъятию контрреволюционного и антисоветского элемента» на территории Литвы.