Der Sohn des Brugger Schultheissen Johann Jakob Zimmermann, der durch den Salzhandel zu Wohlstand gelangt war, erhielt seine Ausbildung in Colmar an der École militaire von Gottlieb Konrad Pfeffel. Nach Beginn des Franzoseneinfalls im Januar 1798 bildete sich in Brugg unter Zimmermanns Mitwirkung ein Revolutionskomitee. In den Wochen vor der Ausrufung der Helvetischen Republik 1798 war er Mitglied der provisorischen Nationalversammlung des aus den Berner Untertanengebieten gebildeten Kantons Aargau. Die Einteilung in Bezirke geht auf seinen Vorschlag zurück. Im April 1798 wurde Zimmermann in den Grossen Rat, die untere Kammer des helvetischen Parlaments, gewählt und präsidierte diesen zeitweise. Als Unitarier befürwortete er einen straff organisierten Zentralstaat.