Несмотря на отсутствие военного образования, в Гражданской войне проявил себя хорошим кавалерийским командиром. Умел словом и личным примером воздействовать на массу бойцов, пользовался их уважением за личную храбрость в бою. Был ранен в боях пять раз. Прошёл через все важнейшие сражения Гражданской войны на Южном и Юго-Западном фронтах. Воевал с донскими казаками, с Добровольческой армией А.И. Деникина, с польской армией и с махновцами. Участник многих важнейших операций, в том числе обороны Царицына, в поражении дивизии генерала А. А. Голубицына под Прямой Балкой, в Воронежско-Касторненской, Ростово-Новочеркасской, Северо-Кавказской, Егорлыкской, Кубано-Новороссийской, Новоград-Волынской, Ровенской, Северно-Таврийской операциях. В начале 1921 года активно участвовал в боевых действиях против махновцев. За подвиги на фронтах Гражданской войны награждён двумя орденами орденами Красного Знамени, что по тем временам было редким фактом и значительно выделяло его из общей массы командиров. Большую роль в дальнейшей биографии Рябышева сыграло также участие в боях под непосредственным командованием С. М. Будённого, К. Е. Ворошилова, С. К. Тимошенко, А. Я. Пархоменко.