Zanardelli osallistui vapaaehtoisena vuoden 1848 sotaan Itävaltaa vastaan Lombardiassa. Tappiollisen Novaran taistelun jälkeen hän palasi kotikaupunkiinsa Bresciaan, jossa toimi jonkin aikaa lakitiedon opettajana. Itävallan viranomaiset kuitenkin kielsivät häneltä opettamisen hänen poliittisten mielipiteidensä vuoksi. Vuonna 1859 Zanardelli valittiin Sardinian parlamenttiin. Seuraavina vuosina hän toimi yhdistyneessä Italiassa erilaisissa hallinnollisissa tehtävissä, mutta kohosi merkittäviin virkoihin vasta sen jälkeen, kun vasemmisto nousi maassa valtaan vuonna 1876. Zanardelli oli eri vasemmistohallituksissa työministerinä 1876–1877, sisäministerinä 1878–1881 ja oikeusministerinä 1881–1883. Viimeksi mainitussa virassa hän vei läpi uuden vaalilain. Se nelinkertaisti äänioikeutettujen määrän puolesta miljoonasta kahteen miljoonaan. Zanardelli kuitenkin erosi Agostino Depretisin hallituksesta, koska liberaalina ja irredentismin kannattajana hän ei hyväksynyt pääministerin lähentymistä oikeistoon ja ulkopolitiikassa Itävalta-Unkariin. Kun Depretis lopetti yhteistyön oikeiston kanssa, Zanardelli palasi hänen hallituksensa oikeusministeriksi vuonna 1887, ja jatkoi myös Francesco Crispin hallituksessa aina helmikuuhun 1891. Tänä aikana hän valmisteli uuden rikoslain, joka lakkautti kuolemanrangaistuksen ja laillisti lakot, mikäli niihin ei liittynyt väkivaltaa tai kiihotusta.