葬在弗吉尼亚州阿灵顿县的阿灵顿国家公墓。库珀在担任参议员期间长期支持农村电气化，东肯塔基州农村电气合作公司因此更名约翰·谢尔曼·库珀电站以示纪念。1999年，《列克星敦先驱领袖报》（）在报道中称，库珀是20世纪最具影响的肯塔基人之一。2000年，东肯塔基大学肯塔基州历史和政治中心设立一年一度的约翰·谢尔曼·库珀奖，表彰那些在肯塔基州公共服务方面作出杰出贡献的人。库珀虽然出身名门，但在别人眼中，他“和蔼可亲、经常自嘲而且平易近人”。