1947'de, Filistin'den yaklaşık 1.500 Ermeni, Sovyet hükûmetinin Ermenistan nüfusunun çoğunlukla Orta Doğu'dan, büyük ölçüde etnik Ermenilerin ülkelerine geri gönderilmesine yönelik çabalarının bir parçası olarak Sovyet Ermenistan'a geri döndü. Bu, Kudüs'teki Ermeni cemaatinin uzun vadeli azalışının başlangıcıdır. 1948 Arap-İsrail Savaşı sırasında, Ermeni Mahallesi bombalardan ötürü hasar gördü. Filistin'den birçok Ermeni barındırıyordu. Der Matossian'ın “geçici silah” olarak tanımladığı silahlı bir Ermeni sivil gardiyan, bu mahalleyi savunmak için kuruldu. Savaş sırasında 40'tan fazla Ermeni öldü.