1971年10月，日本在联合国大会2758号决议表决时投反对票，反对中华人民共和国取代中华民国在联合国的席次，但最终失败。1972年7月，立场亲台的日本首相佐藤荣作宣佈退休。周恩来乃利用时机主动发表双方尽速建交之声明。7月6日，日本国会通过亲中的田中角荣继任首相，不顾日本民意，于9月25日访问中华人民共和国，9月29日双方发表《联合公报》，建立外交关系。日本政府同时与中华民国政府断绝邦交，当时日本政府之苦衷曾由大平正芳外相率直表示为「断肠之痛」，不仅是政府而已，甚至多数日本国民也有同样感慨。同日，中华