Under vinterkrigen og fortsettelseskrigen med Sovjetunionen var Pekkala innstilt på å slutte fred, særlig på grunn av de store tapene av menneskeliv Finland led. I 1942 gikk han ut av regjeringen og ble etter hvert en del av det som ble kalt fredsopposisjonen. Han ble i april 1945 visestatsminister og forsvarsminister i Juho Kusti Paasikivis regjering.