Sangen er en enstonet marokkansk-aktig hyllest til utfordringer skrevet etter fengslingen og rettssaken til Richards og Jagger for narkotikabestittelse. «We Love You» er ei psykedelisk blanding av lyder fra fengsel med Nicky Hopkins på piano, samt John Lennon og Paul McCartney ukreditert på harmonivokal.