В январе 1923 года Х. Ермаков был уволен из армии в бессрочный отпуск «как бывший белый». Месяц спустя вернулся домой. А уже 23 февраля 1923 года был арестован органами ГПУ. Ермакова обвинили в организации Вёшенского восстания в 1919 году по статье 58 УПК. Следствие длилось почти полтора года, однако, доказать его виновность не смогло: большинство свидетелей показали на следствии, что Ермаков был насильственно мобилизован в повстанческую армию П. Кудиновым и другими вождями восстания; вспомнили, как он спасал пленных красноармейцев от расстрела. Станичники составили коллективное ходатайство в его защиту. Благодаря этому 19 июля 1924 года Ермаков был освобождён под поручительство. Следствие длилось ещё 10 месяцев, и, может быть, продолжилось бы дольше, но в апреле состоялся пленум ЦК РКП(б), принявший решение о частичной реабилитации казачества. В результате, 15 мая 1925 года выездная сессия Северо-Кавказского суда в г. Миллерово определила прекратить дело «по целесообразности».