Carathéodory vokste opp i Brussel, der faren ble ambassadør i 1875. Allerede i ungsomsårene ble hans matematiske begavelse tydelig og han vant diverse skoleutmerkelser. To ganger vant han ved for alle landets høyere skoler første pris i mahematikk. I 1891 avla han den belgiske eksamen artium og begynte som i i Brussel. Der fullførte han ingeniørstudiet etter fire år.