并任命库珀进入华伦委员会调查暗杀事件。库珀很快开始直言不讳地反对新总统加大美军对越南战争介入力度的决定，主张同北越谈判。1966年赢得连任后，他和爱达荷州民主党议员弗兰克·丘奇合作制订一系列修正案，旨在取消美国在越南军事行动的拨款。评论认为，这些修正案是国会首次在战争期间真正试图遏制美国总统指挥军事行动的权力。由于年龄日长，听力也不断退化，库珀没有再于1972年竞选连任。1974至1976年，他出任驻东德大使，1981年又担任联合国大会副代表。1991年2月21日，约翰·谢尔曼·库珀在哥伦比亚特区的养老院逝