Летом 1936 во время выступления военных-националистов Рохо остался лоялен республиканскому правительству. В период обороны националистами толедского Алькасара он пришёл к ним с предложением о сдаче, но оно было отвергнуто (в свою очередь, осаждённые предложили Рохо остаться вместе с ними, но он также отказался). В условиях, когда многие кадровые офицеры поддержали противников республики, квалифицированный профессионал Рохо быстро стал одним из республиканских военных руководителей, игравших ключевую роль в реорганизации вооружённых сил. В октябре 1936 он стал подполковником и начальником Генерального штаба сил обороны, созданных для защиты Мадрида от наступавших националистов в ситуации, когда правительство уже покинуло столицу и переехало в Валенсию. Непосредственным начальником Рохо был генерал Хосе Миаха (другая транскрипция — Мьяха), возглавлявший хунту обороны Мадрида. Рохо в короткие сроки разработал эффективный план обороны города, который в значительной степени предотвратил его падение. В качестве начальника штаба армии Центра он сыграл большую роль в планировании операций в сражениях у Харамы, Гвадалахары, Брунете и Бельчите.