«Loving Cup» ha sido interpretada esporádicamente por los Stones desde su introducción a su catálogo: la tocaron en el concierto que realizó la banda en Hyde Park el 5 de julio de 1969, fue parte de los shows del American Tour 1972 y fue reintroducida a los setlists durante el Licks Tour entre 2002 y 2003. También grabaron una versión en vivo junto con Jack White durante la etapa 2006 del A Bigger Bang Tour, fue presentada en el documental sobre la banda dirigido por Martin Scorsese "Shine a Light" (2008) y en el álbum de la banda sonora.