Er war Sohn des Juristen Christoph Schmidt genannt Phiseldeck (1740–1801). Die Familie wurde 1789 in den erblichen Adelsstand erhoben. Justus von Schmidt-Phiseldeck studierte in Helmstedt ebenfalls wie sein Vater Jura und trat 1795 in den braunschweigischen Staatsdienst. 1799 wurde er Konsistorial-, Grenz- und Lehnsrat sowie Archivar, 1806 Geheimer Sekretär im Ministerium und trat dann in Dienste des neu gegründeten Königreichs Westphalen. 1808 wurde er Appellationsrichter in Kassel, 1809 Staatsrat, 1810 zugleich Generaldirektor der indirekten Steuern und nach der Restauration des Herzogtums Braunschweig 1814 Mitglied des Geheimratskollegiums. Am Wiener Kongress nahm er als Gesandter des Herzogs Friedrich Wilhelm bis 1815 teil und erhielt nach dessen Tod am 16. Juni 1815 in der Schlacht bei Quatre-Bras vom Prinz-Regenten von England die Hauptleitung der Landesangelegenheiten übertragen. Er zog sich aber durch sein Verhalten den Hass des unmündigen Herzogs Karl II. zu, der ihn drei Jahre nach seinem Regierungsantritt 1826 wegen der Verweigerung der Herausgabe seiner mit dem König von England geführten Korrespondenz mit Verhaftung bedrohte. Schmidt-Phiseldeck ging nach Hannover, wo er Chef des Justizdépartements und 1832 Landdrost in Hildesheim wurde. Er kehrte aber 1840 in die Heimat zurück.