Matthias William Baldwin var ferdig utdannet gullsmed i 1817, og startet sitt eget gullsmedverksted i Philadelphia to år senere. Etterspørselen etter smykker var dalende, og på 1820-tallet startet han i samarbeid med maskinisten John Mason et verksted for å lage boktrykker-utstyr og trykkruller i kobber for kaliko-trykking (tekstiltrykk). Verkstedet ble fort for trangt, og etter å ha flyttet til større lokaler økte etterspørselen slik at Baldwin fant det nødvendig å gå til anskaffelse av en stasjonær dampmaskin. Han var imidlertid misfornøyd med dampmaskinens størrelse og ytelse, og bestemte seg for å tegne og bygge en mer egnet maskin selv. Dampmaskinen han bygde var mindre, lettere og mer effektiv enn de som var på markedet på den tiden. Resultatet var at han begynte å få forespørsler fra andre fabrikker og verksteder om å bygge dampmaskiner for dem. Konstruksjon av dampmaskiner fikk etterhvert en stadig viktigere rolle i selskapet, og ikke lenge etter trakk John Mason seg fra samarbeidet.