Nach der Wahl von Juho Kusti Paasikivi zum Staatspräsidenten wurde Pekkala am 26. März 1946 dessen Nachfolger als Ministerpräsident. Als solcher leitete er eine Koalitionsregierung aus SKDL, SDP, Landbund (ML) sowie Schwedischer Volkspartei (SFP-RKP). Am 6. April 1948 unterzeichnete er in Moskau einen Freundschafts-, Zusammenarbeits- und Hilfeleistungsvertrag mit der Sowjetunion. Allerdings verschlechterte sich bereits nach der kommunistischen Machtübernahme in der Tschechoslowakei im Februar 1948 das Verhältnis zwischen der SKDL und den an der Regierung beteiligten bürgerlichen Parteien. Um einer ähnlichen Machtübernahme der Kommunistischen Partei in Finnland vorzubeugen, traf Präsident Paasikivi vorbeugende Maßnahmen. Im Juli 1948 trat der kommunistische Innenminister Yrjö Leino aus Protest gegen diese Anordnungen zurück. Bei den darauf folgenden Parlamentswahlen verlor die SKDL elf ihrer Sitze, während die bürgerlichen Parteien sowie die SDP Mandatsgewinne verbuchten. Am 29. Juli 1948 wurde Pekkala von Karl-August Fagerholm als Ministerpräsident abgelöst. Während seiner Regierungszeit übernahm er auch das Amt des stellvertretenden Verteidigungsministers.