Joels første kone var Elizabeth Weber Small. Da forholdet deres begynte, var hun gift med Jon Small, hans musikalske partner i duoen Attila. Weber hadde en sønn med Small. Weber og Joel giftet seg i 1973 og hun ble hans manager. Joels produsent, Artie Ripp, fortalte at Joels sanger «She's Got a Way» og «She's Always a Woman» var inspirert av henne. Det var også servitrisen i «Piano Man». De skilte seg 20. juli 1982.