后，科尔继续担任州长，同时在位于波恩的德国联邦议院担任基联盟/基社盟组成的反对党领袖。1976年12月2日Bernhard Vogel成为他的继任者，担任莱茵兰-普法尔茨州长。当大选失败后，基社盟决定取消与基民盟的联盟政策，但科尔反对基社盟主席弗朗茨·约瑟夫·施特劳斯这项举措。在1980年进行的联邦大选中，科尔必须支持施特劳斯竞选联邦总理，因为大选后科尔将会继续担任反对党领袖，而施特劳斯回到巴伐利亚担任州长。而后科尔从1976年—2002年一直担任德国联邦议会议员。
西德总理.Se