Karamanlíksesta tuli Kreikan kansalainen vuonna 1913, sen jälkeen kun Makedonia oli vapautunut toisen Balkanin sodan jälkeen. Hänen isänsä Geórgios Karamanlís oli opettaja, joka oli taistellut Kreikan Makedonian sodassa vuosina 1904–1908. Karamanlís opiskeli oikeustiedettä Ateenan yliopistossa vuosina 1925–1929. Suoritettuaan armeijan vuosina 1930–1935 hän toimi lakimiehenä Sérresin kaupungissa. Karamanlís aloitti oman poliittisen uransa konservatiivisessa kansanpuolueessa ja hänet valittiin parlamentin jäseneksi ensimmäisen kerran 28-vuotiaana 1930-luvun puolivälissä. Karamanlís muutti Ateenaan vuonna 1941 ja toimi yleisten töiden ministerinä Kreikan sisällissodan jälkeen 1947.