К началу Отечественной войны 1812 года полковник Рылеев числился в Павлоградском гусарском полку и состоял в распоряжении великого князя Константина Павловича, формировал в Новороссийской губернии пополнения для кавалерии, затем присоединился к действующей армии и в рядах своего полка отличился в сражении при Кобрине, после которого выбыл из строя по причине болезни. Вернулся в армию летом 1813 года и принял участие в Заграничных походах 1813 и 1814 годов. Отличился в сражении при Денневице, за что был произведён в генерал-майоры. В кампании 1814 года сражался в Северной Германии, Голландии и Франции, после сражения при Лаоне был назначен временным губернатором Лаонского и Арденнского департаментов. В кампании Ста дней вновь совершил поход во Францию.