Gutzeit etablerte etterhvert egen virksomhet som skipsreder og brukseier i Drammen. I Drammen grunnla han og ble den første formann i Drammen Handelsstands Forening. Senere flyttet han virksomheten til Fredrikstad. Med sin kone Dorothea Gurine Holst, født i 1806, fikk han sønnen Hans Gutzeit. Far og sønn grunnla i 1860 selskapet i Fredrikstad, det første norske sagbruk som ble drevet med dampkraft. I 1854 hadde Stortinget vedtatt å oppheve sagbruksprivilegiene fra 1. januar 1860. Det åpnet for mange store tekniske forandringer innen sagbruksvirksomheten; de fleste vanndrevne oppgangsagene ble nedlagt og de nye dampsagene overtok.