A l'abril de 1138, Geoffrey Talbot va capturar "Hereford Castle" dels partidaris del rei Esteve d'Anglaterra. Més tard aquest any, Esteve va assetjar el castell fins que es va rendir. L'any 1140 durant l'Anarquia, Geoffrey Talbot i Miles de Gloucester van capturar el castell de la guarnició que recolzava al rei Esteve d'Anglaterra. Durant el setge, el cementiri de l'església de Sant Guthlac va ser profanat. El "Gesta Stephani" va gravar l'esdeveniment: