Po upadku reżimu powrócił do Grecji. W lipcu 1974 stanął na czele greckiego rządu, którym kierował do maja 1980. Założył i również do 1980 przewodniczył centroprawicowej Nowej Demokracji. W 1974 i 1977 był w międzyczasie wybierany do Parlamentu Grecji. Po objęciu urzędu premiera doprowadził do podporządkowania się wojskowych władzy cywilnej, przywrócił funkcjonowanie ustroju konstytucyjnego i nie dopuścił do militarnego udziału Grecji w konflikcie cypryjskim. W grudniu 1974 z jego inicjatywy odbyło się referendum, w którym Grecy przegłosowali zniesienie monarchii. W tym samym miesiącu przez kilka dni formalnie wykonywał obowiązki głowy państwa do czasu powołania tymczasowego prezydenta Michaila Stasinopulosa. Ponownie działał na rzecz przystąpienia państwa do EWG, do czego ostatecznie doszło w 1981 już w okresie jego prezydentury. W 1978 został wyróżniony Nagrodą Karola Wielkiego.