然在这次选举中，基民盟/基社盟联盟以48.6%成为第一大党，但以微弱劣势败给由社民党及自民党的社会自由联盟（Sozialliberale Koalition），但这个大选结果却是基民盟/基社盟截至目前第二高的投票记录。大选后，科尔继续担任州长，同时在位于波恩的德国联邦议院担任基联盟/基社盟组成的反对党领袖。1976年12月2日Bernhard Vogel成为他的继任者，担任莱茵兰-普法尔茨州长。当大选失败后，基社盟决定取消与基民盟的联盟政策，但科尔反对基社盟主席弗朗茨·约瑟夫·施特劳斯这项举措。在1980年