הכנסייה נזכרת לראשונה במאה ה-13 בשם "כנסיית אולאב בקרבת המצודה" (St Olave-towards-the-Tower). הכנסייה הייתה מבנה אבן שהחליף כנסיית עץ שקדמה לו. המבנה הנוכחי נבנה ב-1450. בשל מאמצי סר ויליאם פן, אביו של ויליאם פן מייסד פנסילבניה, ניצלה הכנסייה מהשרפה הגדולה של לונדון. פן הרס את מבני העץ סביב הכנסייה וכך מנע מהאש להתקרב אליה.