С конца 1919 в течение двух лет его работа была связана в основном с Северным Кавказом. Член РВС 9-й армии Юго-Восточного — Кавказского фронтов 9.10.1919 — 28.6.1920. В этой должности сыграл активную роль на суде над командиром Конно-сводного корпуса Б. М. Думенко. После IX съезда в апреле 1920 года — кандидат в члены ЦК. Входил в состав Кавказского бюро ЦК РКП(б), Кубанского революционного комитета, был заместителем председателя РВС Кавказской трудовой армии. В этот период призывал к поголовному физическому истреблению контрреволюционеров. Он писал в одном из писем, жалуясь Н. Н. Крестинскому на мягкость приговоров, выносимых донскими революционными трибуналами: "«Необходимо организовать чрезвычайки и как можно скорее покончить с трибунальным словоизвержением… Основное правило при расправе с контрреволюционерами: захваченных не судят, а с ними производят массовую расправу… я на этом настаиваю самым решительным образом»". С марта 1920 секретарь Юго-Восточного бюро ЦК РКП(б) (бюро руководило парторганизациями Северного Кавказа), председатель Экономического совещания Юго-Восточной области.