Warren Zevon var erstatter for Paul Shaffer og gjest gjentatte ganger mellom 1982 og 2001. 30. oktober 2002 var Zevon som eneste gjest på Late Show with David Letterman for å fortelle at han led av sykdommen lungekreft. Til slutt i programmet spilte Zevon Roland the Headless Thompson Gunner på forespørsel fra David Letterman, og dette var den siste sangen Warren Zevon noen gang fremførte for offentligheten. Etter programmet ga Zevon bort gitaren sin som han brukte på showet til Letterman, og sa: "Here, I want you to have this, take good care of it." Fra plata My Ride's Here fra 2002 snakker Letterman på sangen "Hit Somebody! (The Hockey Song)". Zevon døde av lungekreft 7. september 2003.