«Rock Off» se trata de una de las tantas canciones del álbum que fueron grabadas en Villa Nellcôte, en una casa alquilada por Keith Richards, ubicada en el sur de Francia durante el verano y el otoño de 1971 .