Mallmann wurde als Sohn des Kaufmanns und Gutsbesitzers Johann Jacob Mallmann und seiner Frau Anna Maria (geb. Trunck) geboren. Nach dem Besuch der Sekundarschule trat er als kaufmännischer Lehrling in eine Textilfabrik ein. Im Mai 1813 meldete er sich zur französischen Armee. Den 6. Koalitionskrieg machte er als Kavallerist im 2. Regiment der Garde D'honneur mit und wurde in der Völkerschlacht bei Leipzig am 18. Oktober 1813 verwundet. Nach seiner Genesung wurde Josef Mallmann als Leutnant in das 7. rheinische Landwehrinfantrie Regiment eingegliedert und machte den Feldzug des Jahres 1815 auf preußischer Seite mit. Er heiratete 1816 die Tochter des verstorbenen Bürgermeisters von Simmern, Charlotte Forster. Das Paar hatte 11 Kinder, von denen nur drei Söhne das Erwachsenenalter erlebten. Mallmann betätigte sich beruflich als Kaufmann, Landwirt und Steuereinnehmer in Simmern. Seit 1837 war Mallmann Mitglied des Provinziallandtags für die preußische Rheinprovinz für den 4. Stand. 1848 gehörte er dem die deutsche Nationalversammlung vorbereitenden "Vorparlament" in Frankfurt a. M. an. Seit 1849 vertrat Joseph Mallmann den Regierungsbezirk Koblenz im preußischen Abgeordnetenhaus zu Berlin. Josef Mallmann schloss sich den Linksliberalen an.