Karamanlis ble født i det osmanske rike, og ble gresk statsborger i 1913, etter andre balkankrig. Han studerte i Athen, der han tok eksamen som jurist, og ble deretter medlem av det konservative Folkepartiet.