Когда во Второй Испанской Республике разгорелась гражданская война, и были созданы добровольческие Интернациональные бригады, он прошёл курс военных командиров в Рязани. В апреле 1937 года Рау прибыл в Испанию и присоединился к Одиннадцатой Интербригаде. В мае он стал выполнять функции политического комиссара, затем он был назначен начальником штаба и, наконец, командиром бригады. Рау находился в должности до следующей весны, после чего получил ранение. Бригада Рау смогла добиться некоторых успехов на поле боя, но войска мятежников к тому времени уже обрели стратегическое преимущество. Рау участвовал в битвах при Брунете, Белчите, Теруэле и Арагонском наступлении, где и был ранен.