В сентябре 1941 года по рекомендации своего сослуживца, командующего 38-й армии генерал-майора В. В. Цыганова назначен заместителем командующего Харьковского военного округа — начальником Харьковского гарнизона, численностью около 20 тысяч человек. В конце октября 1941 года руководил обороной города. По мнению штаба 38-й армии и штаба Юго-Западного фронта, с поставленной задачей не справился, допустив ряд ошибок в управлении войсками. По итогом обороны Харькова подготовил подробный отчет, вскрывавший недостатки подготовки города к обороне и анализирующий ход боевых действий. На основе отчета Генеральным штабом были подготовлены рекомендации по обороне крупных городов. С ноября 1941 года помощник командующего Юго-Западным фронтом по тылу.