У січні 1923 року Х. Єрмаков був звільнений з армії у безстрокову відпустку «як колишній білий». Місяць потому повернувся додому. А вже 23 лютого 1923 року був заарештований органами ГПУ. Єрмакова звинуватили в організації Вешенского повстання в 1919 році статті 58 КПК. Слідство тривало майже півтора року, однак, довести його винність не зміг: більшість свідків показали на слідстві, що Єрмаков був насильно мобілізований у повстанську армію П. Кудиновым та іншими ватажками повстання; згадали, як він рятував полонених червоноармійців від розстрілу. Станичники склали колективне клопотання на його захист. Завдяки цьому 19 липня 1924 року Єрмаков був звільнений під поручительство. Слідство тривало ще 10 місяців, і, може бути, тривало б довше, але в квітні відбувся пленум ЦК РКП(б), який прийняв рішення про часткову реабілітацію козацтва. В результаті, 15 травня 1925 року виїзна сесія Північно-Кавказького суду р. Міллерово визначила припинити справу «доцільності».