Han ble født inn i embedsmannsslekten Sejersted som sønn av oberst Fredrik Christian Sejersted og Dorthea Catarina Klingenberg samt nevø av generalløytnant Johannes Klingenberg Sejersted. Johannes Mathias Sejersted giftet seg i 1820 med Frederikke Dorthea Heyerdahl, datter av sogneprest og eidsvollsmann Hieronymus Heyerdahl i Stjørdal. Johannes Mathias Sejersted var tippoldefar til professor Francis Sejersted.