En los Estados Unidos, «Rescue Me» se publicó como el segundo sencillo del disco el 23 de febrero de 1991, mientras que en el Reino Unido como el tercero el 7 de abril, puesto que «Crazy for You», de 1985, había sido relanzado como el segundo en aquel país.