Charles Baker besuchte die öffentlichen Schulen seiner Heimat und das "Cary Collegiate Institute" in Oakfield sowie das "New York Seminary" in Lima. Anschließend unterrichtete er selbst für einige Zeit als Lehrer. Nach einem Jurastudium und seiner im Dezember 1860 erfolgten Zulassung als Rechtsanwalt begann er in Rochester in diesem Beruf zu arbeiten. Zu Beginn des Bürgerkrieges nahm Baker als Oberleutnant im Heer der Union am Krieg teil. Bei der Ersten Schlacht am Bull Run wurde er im Juli 1861 verwundet. Daraufhin musste er ehrenhaft den Militärdienst quittieren. Politisch schloss er sich der Republikanischen Partei an. Zwischen 1879 und 1882 saß er als Abgeordneter in der New York State Assembly; in den Jahren 1884 und 1885 gehörte er dem Staatssenat an.