Malmesbury er gammel og ble antagelig grunnlagt så tidlig som i 1. århundre f.Kr.. På stedet var det en festning i jernalderen, og i angelsaksisk tid i tidlig middelalder ble det reist et kloster på stedet, Malmesbury Abbey, kjent for sin lærdom. Mye av klosteret ble ødelagt da Henrik VIII oppløste det i 1536, og siden skadet av brann, men omfattende ruiner står igjen. Byen ble en av Alfred den stores befestete burger i forsvaret mot vikingene. Æthelstan, den første konge av England, gravlagt i klosteret da han døde i 939.