Quand il naît, Küpköy faisait partie de l’Empire ottoman ; il ne devient citoyen grec qu’en 1913 quand la Macédoine est réunie à la Grèce à la suite de la deuxième guerre des Balkans. Son père, Geórgios Karamanlís, est professeur. Après son enfance en Macédoine, Konstantínos part à Athènes pour ses études de droit. Il exerce ensuite à Serrès et entre en politique au Parti du peuple. Il est élu député pour la première fois à l'âge de 28 ans lors des dernières élections avant la Seconde Guerre mondiale. Pour des raisons de santé, il ne participe pas au conflit gréco-italien et en 1941, après l'invasion de la Grèce par l'armée allemande, il s'installe comme juriste à Athènes, où il se joint à un groupe d'intellectuels militant contre l'occupation.