Faren døde da Mustafa var 7 år. Han bodde deretter sammen med sin mor på sin onkels gård, uten skolegang. Etter hvert ble han sendt til morens søster i Thessaloniki for å gå på skole der. Skolen var sekulær, og forberedte ham på en byråkratisk karrière. Inspirert av lokale kadetter søkte han seg imidlertid inn på en skole som ga forberedelser til en militær karrière. Det var der han skal ha fått navnet Kemal (den perfekte) av sin matematikklærer; det eksisterer imidlertid også alternative forklaringer på hvordan han fikk navnet Kemal.