Inicialmente, Hole tuvo influencias de bandas no wave y experimentales, que se hacen evidentes en sus primeras grabaciones, específicamente en «Retard Girl», pero la líder Love también tuvo una variedad de influencias.