Ο αρχικός προϋπάρχων ναός χτίστηκε για να καλύψει τις ανάγκες των προσφύγων που το 1924 εγκαταστάθηκαν στην περιοχή και λειτουργούσε ως παρεκκλήσιο του Αγίου Μηνά. Ήταν ο πρώτος ναός της περιοχής που κτίσθηκε μετά την εγκατάσταση των προσφύγων, ήταν όμως μικρός για το πλήθος των κατοίκων της περιοχής και το 1925 η ενορία μετακόμισε σε ειδικά διαμορφωμένο χώρο. Η αύξηση του πληθυσμού οδήγησε στην απόφαση ανέγερσης νέου ναού εντός λίγων ετών. Στην ανέγερση πρωτοστάτησε μαζί με άλλα πρόσωπα ο Θεσσαλονικέας εκπαιδευτικός και μακεδονομάχος Δημήτριος Μαργαρόπουλος και προς τιμήν του, ο Δήμος Θεσσαλονίκης ονοματοδότησε οδό στη συνοικία της Ξηροκρήνης με το όνομά του, πλησίον του Ναού των Αγίων Πάντων. Το 1932 τέθηκαν τα θεμέλια του σημερινού ναού επί Μητροπολίτου Θεσσαλονίκης Γενναδίου. Εγκαινιάσθηκε στις 22 Οκτωβρίου 1967 από τον Μητροπολίτη Θεσσαλονίκης Παντελεήμονα Α΄.