Hughes gikk skolelei i en alder av seks år, og gav sine foreldre en plan for hjemmeundervisning som ble godkjent. Rett før han fylte tolv år i 1859 flyttet familien til New York City, hvor Hughes måtte gå på skole igjen. Hans far var en utvandret metodistprest fra Wales som hadde konvertert til baptismen da han ankom USA, og denne sistnevnte trosretningen ble også Charles Hughes'. Han studerte siden ved Madison College (som i dag heter Colgate University) og ved Brown University, og etter studiene arbeidet han ved i Davenport, hvor han lærte matematisk analyse, latinsk og japansk i et forsøk på å komme inn på jusstudier. Hughes ble etter dette tatt inn på Columbia Law School i 1882, hvor han studerte frem til han ble uteksaminert i 1884.