Dans l'intervalle, le gouvernement prépare le référendum sur les Communautés européennes par lequel Wilson espère régler les différends sur la question dans le pays et le parti. Le cabinet décide le 18 mars d'approuver un vote pour rester dans la CEE, mais Wilson décide d'autoriser des ministres à faire des discours, à titre individuel, contre l'adhésion. Les ministres n'ont toutefois pas été autorisés à se prononcer contre la décision à la Chambre des communes. Heffer est en colère contre cette règle et veut démissionner. Finalement, il organise un limogeage sur une question de principe en prononçant un discours contre l'adhésion à la CEE à la Chambre des communes le 9 avril. Lors du référendum, Heffer est l'un des meilleurs orateurs pour la campagne du Non, bien qu'il ait tendance à spéculer sur la question - affirmant que la CEE réintroduirait la conscription.