En 1998, mientras Harvey rodaba una película como actriz para Hal Hartley en Nueva York, se sintió inspirada por la ciudad y escribió varias canciones.