撤出北爱尔兰。卡拉汉在1974年3月重返政府，出任外务大臣一职，负责重新就是否加入共同市场展开谈判，并在1975年的全民投票中，表态支持英国留在欧洲经济共同体。当哈罗德·威尔逊在1976年辞任首相后，卡拉汉得以继任首相和党魁。但是在任内，由于工党于下议院只佔小数，而被迫与一些细小的党派，如阿尔斯特统一党合作，而日后备受批评的「自由党-工党协议」（Lib-Lab Pact）也是因此而生。后来，卡拉汉尝试以公投方式下放权力到苏格兰，但却失败而回。至于在1978年至1979年爆发的「不满的冬天」，更使工党政府