Familien levde på fattigdomsgrensen, men moren slet for å gi Benz en god utdannelse. Han gikk på den lokale barneskolen i Karlsruhe, og viste seg som en lovende student. I 1853, i en alder av ni år, startet han på den vitenskapelig orienterte skolen Lyzeum. Deretter studerte han ved Universitetet i Karlsruhe under Ferdinand Redtenbacher.