Già esistente in epoca sassone, la chiesa medioevale venne distrutta nel tornado che sconvolse Londra nel 1091. Durante il breve periodo normanno il suo nome era "St Mary de Arcubus", era infatti caratterizzata da due archi di pietra. Con i Plantageneti il campanile e le sue campane, le "Bow Bells", che si sentivano anche oltre le paludi di Hackney, divennero cari a tutti i londinesi, tanto che erano loro a segnalare il coprifuoco alla cittadinanza. L'edificio bruciò completamente durante il Grande incendio di Londra nel 1666. La sua ricostruzione venne affidata a Sir Christopher Wren, il cui progetto venne ultimato nel 1680. Considerata la seconda chiesa più importante della City dopo la Cattedrale di Saint Paul, proprio per questo motivo fu una delle prime ad essere riedificate. Nel 1914 una pietra della sua cripta venne collocata nella Trinity Church di New York in ricordo del fatto che Guglielmo III d'Inghilterra garantì alla chiesa americana gli stessi diritti di St Mary le Bow. Nel 1941 venne gravemente danneggiata durante un bombardamento tedesco, durante il crollo, le sue campane rovinarono al suolo. Il loro restauro, iniziato nel 1956 terminò, grazie ad una forte campagna di sensibilizzazione, cinque anni più tardi.