С 16 апреля по июнь 1918 года работает первым секретарём Полномочного представительства РСФСР в Германии — первого советского дипломатического представительства за рубежом. В июне 1918 году отозван ЦК РКП(б) в Москву, где с 27 июля 1918 года работает секретарём Московского городского комитета РКП(б). Делегат VIII съезда РКП(б). В сентябре 1919 года вместе с Ф. Э. Дзержинским возглавлял городской комитет обороны.