Las compañías discográficas Sire y Maverick Records, en asociación con Warner Bros., publicaron «I'll Remember» el 8 de marzo de 1994 en algunos territorios europeos, como así también en Australia y Nueva Zelanda, bajo los formatos de vinilo de 7" y maxi sencillo; este último contenía tres cortes diferentes de la canción más una versión en directo de «Why's It So Hard», perteneciente al álbum "Erotica".