Ксенофонтов оказался в составе Всероссийской чрезвычайной комиссии (ВЧК) с момента её образования 7 декабря 1917 года: состоял секретарём главы ВЧК Феликса Дзержинского. С марта 1919 по апрель 1921 года он был заместителем Дзержинского и, одновременно, председателем Особого трибунала ВЧК, а также представителем ВЧК при ВЦИК. В июле 1918 года Ксенофонтов участвовал в ликвидации левоэсеровского мятежа в Москве — именно его подпись (как и подпись самого Дзержинского) была «искусно» подделана убийцами посла Мирбаха с целью проникновения в здание посольства. В 1921 году Ксенофонтов принимал участие в подавлении Кронштадтского восстания. Кроме того, он был командирован по линии ВЧК в Калугу (1918), Казань (1919) и Тулу (1919).