。1964年7月到台湾，两度晋见蒋介石，陈述中日关系。并表示日本「非常希望中华民国能反攻复国成功」。在田中角荣内阁担任日本外务大臣时主导与中华人民共和国建交，并宣布原与中华民国签署的《中日和约》失效。参与三木内阁时代的倒阁行动，与福田赳夫有政权交接的密约。福田当选以后，大平被委为自民党干事长。1978年末，大平被选为日本自由民主党（自民党）的总裁，并于12月7日继任福田赳夫成为内阁总理大臣（首相）。他的大平派与田中角荣的田中派合作，得以维系政权。但也因田中角荣的金权政治问题来引来排山倒海的攻击。