United Party ble i 1934 dannet ut av fusjonen mellom Hertzogs Nasjonalistparti og det rivaliserende South African Party til Jan Smuts. Malan motsatte seg fusjonen sterkt. Han og 19 andre medlemmer av parlamentet hoppet av og dannet det Rensede nasjonalistparty som han ledet de nesten 14 årene i opposisjon. Malan motsatte seg også sørafrikansk deltagelse i andre verdenskrig som allerede var upopulær blant afrikanderbefolkningen og førte til en splittelse i regjeringspartiet. Dette økte dramatisk hans oppslutning, og han beseiret Smuts og United Party i valget i 1948.