Joels første album for Columbia var , utgitt i 1973. Selv med moderat salg, ble s tittelspor Joels signaturesang, som han nesten alltid avsluttet en konsert med. Samme år endret Joel's turnerende band seg. Gitaristen Al Hertzberg ble byttet ut med Don Evans, og bassisten Larry Russell ble erstattet med Patrick McDonald, som i 1974 ble byttet ut med Doug Stegmeyer, som ble hos Joel helt til 1989. Rhys Clark kom tilbake som trommeslager og Tom Whitehorse som banjospiller og pedal steel-spiller. Johnny Almond ble med som saksofonist og keyboardspiller. Bandet turnerte i USA og Kanada, og opptrådte i populære musikkshow. Joels låtskrivning begynte å trekke til seg mer oppmerksomhet I 1974 spilte Helen Reddy inn ett spor fra , «You're My Home».