Simon har sagt at hun fikk inspirasjon til sangteksten fra manuset og diktene til Walt Whitman. Hun ønsket å skrive en hymne til New York med en moderne «jungelrytme», og utfordringen var å sidestille disse motsetningene på en overbevisende måte. Linjene «Silver Cities Rise» og «The New Jerusalem» har betydd mye for enkelte lyttere, selv om sangen ikke ble komponert med politiske eller religiøse motiver. Sangteksten inneholder allusjoner til William Blake og Englands historie.