Mahlmann entstammte einer westfälischen Familie. Nach dem Besuch der Volksschule erlernte er den Beruf des Anstreichers und war zwei bis drei Jahre auf der Walz durch Deutschland, die Schweiz, Österreich, Italien, Frankreich; während der Wanderschaft bereits sozialdemokratisch und gewerkschaftlich aktiv. 1908 heiratete er Helene Mahlmann, geb. Grashorn (1878–1959), Sohn Hans wurde 1911 geboren. Adolf Mahlmann trat in die Sozialdemokratische Partei Deutschlands (SPD) ein. 1917 wurde er Mitglied der USPD, danach des Spartakusbundes. Er war Mitglied des Arbeiter- und Soldatenrates in Essen. Auf der Suche nach Arbeit ging er nach Hamburg und betätigte sich in der Zeit der Weimarer Republik gegen den aufkommenden Faschismus. Mahlmann war einer der Mitbegründer der Hamburger KPD und beteiligte sich 1923 am Hamburger Aufstand. Dadurch verlor er seine Arbeit. Auch in der folgenden Zeit fand er nur kurzzeitige Lohnarbeit. Von Herbst 1919 bis 1924 war er Stadtteilleiter der KPD in Hamburg-Eppendorf.