Günümüzdeki yapının yer aldığı alandaki ilk bina, 14. yüzyılda Gotik mimariye sahip bir kilise olarak inşa edilmiş, şehrin Osmanlı İmparatorluğu hakimiyetine geçmesinin ardından, 1571'de camiye çevrilmiştir. Binaya dair Camille Enlart ve George Jeffery tarafından yapılan ilk incelemelerde günümüzde Haydarpaşa Camii olan Azize Katerina Kilisesi'nden eski olabileceği düşünülmüştü. Ancak çağdaş mimari incelemeleri değerlendiren Mihalis Olimpios, mimarisinin bu kiliseden etkilenmiş olmasından hareketle Yeni Cami'nin, 14. yüzyılın ikinci yarısında, 1350'lerin sonu veya 1360'ların başında yapıldığını tahmin ettiği Azize Katerina Kilisesi'nden daha geç bir inşa tarihi olduğunu savunur.