I 1797 ble han uteksaminert fra den medisinske skolen ved University of Edinburgh. I 1798 kom han til Canada sammen med faren sin. I 1803 fikk Baldwin en advokatbevilling, og i 1809 satt han for første gang som dommer i Tingretten.