"Rape Me" fue grabada finalmente con Steve Albini en febrero de 1993 para "In Utero", y fue lanzada junto a "All Apologies" como el segundo sencillo del álbum a finales de 1993 y principios de 1994.