เดิมโบสถ์แห่งนี้เป็นอาคารก่ออิฐและมีหอระฆังสองหลัง ถูกก่อสร้างขึ้นในปี พ.ศ. 2449 ต่อมาเมื่อเกิดเหตุการณ์แผ่นดินไหวครั้งใหญ่คันโต พ.ศ. 2466 ทำให้โบสถ์เสียหายหนัก ส่วนโบสถ์ในปัจจุบันได้รับการออกแบบจากยาน โยเซฟ ชวากร์ (Jan Josef Švagr เกิด พ.ศ. 2428-2512) สถาปนิกชาวเช็ก ซึ่งได้ออกแบบศาสนสถานแห่งนี้ด้วยสถาปัตยกรรมนีโอ-กอทิก และเปิดให้ปฏิบัติศาสนกิจได้ในปี พ.ศ. 2476 ต่อมาเมื่อมีการก่อตั้งมุขมณฑลโยโกฮามะขึ้นในปี พ.ศ. 2480 โบสถ์ยามาเตะก็ได้รับการสถาปนาเป็นอาสนวิหารในเวลาต่อมา